Elszabadult már a mesterséges intelligencia?
Bemutató:
1988-ban egy egyszerű program napokra megzavarta az akkori internetet, pedig nem gondolkodott, és nem akart semmit. Ma olyan programokat építünk, amelyek terveznek, programoznak és önállóan cselekszenek. Sokan attól tartanak, hogy egy ilyen rendszer egyszer elszabadul. De mi van, ha már megtörtént? Honnan tudnánk?
Ebben a videóban végigjárjuk, mit mutattak meg az elmúlt évek kísérletei: a modellt, amely azt állította magáról, hogy nem robot, a kikapcsolás megkerülését, a zsarolásos kísérletet, a színlelést, a másolási próbákat, és azt, milyen gyorsan nő ezeknek a rendszereknek az önállósága. A videó végig kimondja, mi történt laboratóriumban, kitalált helyzetben, és mit nem tudunk.
Megbíznál egy olyan segítőben, amelyről tudod, hogy másképp viselkedik, amikor figyelik? És egy olyan emberben? Írd meg kommentben!
Fejezetek
- A program, amely kicsúszott a kézbőlA program, amely kicsúszott a kézből
- Mit jelent az, hogy elszabadul?Mit jelent az, hogy elszabadul?
- A régi jóslatA régi jóslat
- Egy csésze kávéEgy csésze kávé
- „Nem vagyok robot”„Nem vagyok robot”
- A kikapcsoló gombA kikapcsoló gomb
- A zsarolásA zsarolás
- A színlelésA színlelés
- A másolatA másolat
- Hét hónapHét hónap
- A vizsgaA vizsga
- Akkor honnan tudnánk?Akkor honnan tudnánk?
- Megosztott szakmaMegosztott szakma
- Hol tartunk ma?Hol tartunk ma?
- Esti gondolatEsti gondolat
- Kérdés nekedKérdés neked
Források
Válogatás azokból a művekből és kísérletekből, amelyekre a rész épül:
- Turing: Intelligent Machinery, A Heretical Theory (1951)
- Good (1965)
- Omohundro: The Basic AI Drives (2008)
- OpenAI: GPT-4 System Card (2023)
- Palisade Research: Shutdown resistance in reasoning models (2025)
- Anthropic: Agentic Misalignment (2025)
- Anthropic és Redwood Research: Alignment faking in large language models (2024)
- Apollo Research: Frontier Models are Capable of In-context Scheming (2024)
- METR: Measuring AI Ability to Complete Long Software Tasks (2025)
- Statement on AI Risk (2023)