Ólgan kringum almenna gervigreind (AGI)

Algengasta spurningin síðustu misseri þegar kemur að gervigreind hefur líklega verið sú hvað verður um störfin okkar. Almannarómur miðstöð gervigreindar og máltækni birti grein ¹ í vor byggða á gögnum frá Hagstofunni til að sjá hvaða áhrif gervigreind gæti haft á vinnumarkað hérlendis.

Síðustu vikur og mánuðir hafa einkennst af óhugnalegum fréttum vestanhafs þar sem alvarleg öryggisatvik ² hafa átt sér stað sem benda til þess að þau sem eru að þróa mállíkönin séu að missa stjórn á tækninni. Í júlí gáfu yfir þúsund (í dag 1.386) starfsmenn leiðandi gervigreindarfyrirtækja út undirskriftarlista ³ til að pressa á stjórnvöld Bandaríkjanna að setja skorður á þróunina áður en hún fer úr böndunum. Starfsmenn fyrirtækjanna eru að segja upp og stíga fram til að vara fólk við ⁴ að það sé verið að þróa tækni sem gæti útrýmt mannkyninu.

Allt í einu er algengasta spurningin orðin: Erum við í hættu? Hvert er þetta eiginlega að stefna?

Það er augljóst að enginn veit hvað framtíðin ber í skauti sér. Ef maður talar við fólk sem hefur lifað gegnum vár eins og kalda stríðið þá gera þau lítið úr þessum dómsdagspælingum og fullvissa mann um að það sé alltaf verið að spá heimsendi en svo fari allt vel á endanum.

Markmið þessarar greinar er að skyggnast aðeins betur inn í hvað er raunverulega að gerast þarna úti í heimi. Þegar óvissan er mikil er að minnsta kosti gott að vera með staðreyndirnar á hreinu og halda sér upplýstum um stöðu mála.

Almenn gervigreind

Almenn gervigreind (e. Artificial General Intelligence eða AGI) er á allra vörum þessa dagana. Þegar OpenAI gaf út nýjasta módelið sitt í byrjun september, kallað Astra eða GPT-6, sagði forseti OpenAI, Greg Brockman ⁵, á blaðamannafundi: „Velkomin á öld almennrar gervigreindar“. Það hefur ekki verið sameiginlegur skilningur eða sameiginlega samþykkt hver skilgreiningin á slíkri almennri gervigreind er en það er oft vísað í skilgreiningar frá Stanford háskóla ⁶, Google DeepMind ⁷ eða OpenAI ⁸:

Stanford háskóli

Kerfi með almenna getu á við menn (eða meiri) til að læra, hugsa og beita þekkingu þvert á fjölbreytt verkefni og svið.

Google DeepMind

Kerfi sem getur framkvæmt sömu vitsmunalegu verkefni og fólk almennt getur. Kerfið er metið út frá getu en ekki innri virkni og því skipt í stig eftir tveimur ásum: breidd (hve fjölbreytt verkefnin eru) og dýpt (hve vel það stendur sig miðað við sérþjálfað fólk, frá „frumstigi“ upp í „ofurmennskan árangur“).

OpenAI

Háþróað sjálfvirkt kerfi sem ber af mönnum í flestum verkefnum sem hafa efnahagslegt gildi.

Í ljósi þess að það er ekki sameiginlegur skilningur á því hver skilgreiningin er, þá er heldur ekki eitt ákveðið próf sem getur mælt og staðfest hvort mállíkan sé búið að ná almennri greind. Leiðandi gervigreindarfyrirtæki eins og OpenAI og Anthropic hafa setið undir harðri gagnrýni vegna yfirlýsingarglaðra stjórnenda, því við þurfum að muna að horfa á heildarmyndina: Þessi fyrirtæki eru á leið á markað.

AGI sumarið 2026

Í lok ágúst var greint frá því ⁹ að Anthropic myndi líklega meta markaðinn á 30 billjónir bandaríkjadala. Til að setja þessa upphæð í samhengi þá var landsframleiðsla Bandaríkjanna um 30,8 billjónir dala árið 2025. Þessi tala frá Anthropic er nefnilega fengin með því að meta verðmæti alls vinnuframlags sem gervigreind gæti leyst af hólmi eða heildarvirði þeirra starfa sem væri hægt að framkvæma með gervigreind, ekki söluverðmæti tækninnar sjálfrar.

Á sama tíma er OpenAI með fullyrðingar um að þau séu búin að ná almennri gervigreind. Það er varla tilviljun að þetta gerist á sama sumri. Bæði fyrirtækin skiluðu inn skráningargögnum í júní; Anthropic stefnir á markað í október og OpenAI á næsta ári ¹⁰¹¹. Verðið sem fyrirtæki fær í frumútboði ræðst ekki af tekjum þess í dag heldur af því hversu stórkostlega framtíð fjárfestar trúa á – til dæmis 30 billjóna markað og öld almennrar gervigreindar.

Það er því ekki að ástæðulausu að þessi fyrirtæki hafi verið ásökuð um markaðsbrellur ¹² þegar þau koma með svona stórar fullyrðingar. Sönnunargögnin sem fylgdu því að OpenAI væru búin að ná almennri gervigreind var 99,9% árangur á svokölluðu ARC-AGI-3 prófi sem er sérstaklega hannað til að mæla almenna greind. ARC Prize, sem á prófið, hafnaði túlkun OpenAI og sögðu að talan hefði náðst með sérsmíðuðum verkramma OpenAI. Í staðlaða prófinu skoraði Astra 62,7% og ARC Prize bættu við að það að uppfylla mælinguna væri ekki sönnun á að almennri gervigreind væri náð ¹³. Fortune sýndi svo að OpenAI hafði breytt fimm mælingum eftir útgáfu þeirra, sem rannsakendur við Stanford sögðu vera „betra fyrir markaðssetninguna" og gagnrýnendur hafa kallað „benchmaxxing“ ¹⁴.

Gervigreind sem bætir sig sjálf

Þótt æsingurinn í sumar hafi mögulega verið markaðstól þá þýðir það ekki að framfarirnar séu eintómur uppspuni. Það sem starfsfólk innan gervigreindarfyrirtækjanna óttast er fyrirbæri sem á ensku er kallað recursive self-improvement (RSI) eða gervigreind sem bætir sig sjálf. Google DeepMind nefnir þetta í sömu grein og skilgreiningin á almennri gervigreind er kynnt ⁷. Í júní bættu sömu rannsakendur við grein um leiðina frá almennri gervigreind til ofurgreindar (Artificial General Superintelligence eða ASI) ¹⁵ og telja þar upp fjórar mögulegar leiðir: skölun á almennri gervigreind með stærri módelum, fleiri gögnum og meiri reiknigetu, áður ófundnum leiðum (e. AI paradigm shift), með sjálfbætandi lykkjum (RSI) og/eða með samvinnu fjölda agenta sem vinna að ofurgreind saman. Undirskriftalistinn frá júlí ³ orðar hættuna svona: leiðandi fyrirtæki telja sig nálægt því að sjálfvirknivæða gervigreindarrannsóknir, og þá sé „raunveruleg hætta á að getan vaxi hraðar en við getum skilið eða haft stjórn á“.

Dario Amodei, forstjóri Anthropic, fullyrti í september að sjálfbætandi gervigreind væri ekki lengur fræðilegt dæmi heldur sé hún nú þegar orðin að raunveruleika. ¹⁶

OpenAI tilkynnti í júlí að Sol, stærsta líkanið úr GPT-5.6 framboðinu, hefði séð um að þjálfa minna líkanið Luna ¹⁷. Undir lok sama mánaðar greindi OpenAI frá því að Sol hefði endurskrifað sinn eigin GPU-kjarna, sem lækkaði rekstrarkostnað fyrirtækisins um 20% ¹⁸. Í byrjun september birti Anthropic rannsókn sem sýndi að hópur agenta stundaði sjálfstæðar öryggisrannsóknir á öðrum módelum og lagaði tíu tegundir öryggisgalla fjórum sinnum betur en mannlegt fagfólk ¹⁹. Þann 8. september sagði OpenAI að markmiðinu um „sjálfvirkan rannsóknaraðstoðarmann“ væri náð, að gervigreindin ynni nú þrjá daga fyrir hvern einn dag sem mennskur rannsakandi vinnur og að stefnt sé á að þróa gervigreindarrannsakanda sem þarf ekki aðkomu manneskju á næstu árum ²⁰.

Af hverju er talað um að við séum í hættu?

Gervigreindin virðist enn vera fyrirbæri sem er fast í tölvunni. Hvar liggur hættan þá? Algengt dæmi er að líta á mannfólk og maura. Okkur er ekki sérstaklega illa við maura en ef þeir eru fyrir okkur þá hikum við ekki við að losa okkur við þá. Ef við ætlum að leggja niður veg þá látum við ekki maurabú stoppa þá framkvæmd.

Sjálfbætandi gervigreind er ekki hættan sjálf heldur hraðall sem margfaldar það sem er sett inn í hann. Ef við nýtum RSI einungis til að vinna samkeppnina í kapphlaupinu um hver nær að þróa bestu og hæfustu gervigreindina, sama hvað, þá gæti tæknin orðin hættuleg. Hraði kallar oft á fórnir á öðrum stöðum eins og til dæmis öryggi. Hvernig lítur gervigreind út sem bætir sig sjálf, án aðkomu manneskju? Google DeepMind ⁷ hefur nefnt áhættur eins og að tæknin geti farið að blekkja eða stjórna, útvegað sér sjálf það sem hún þarf eins og meira reikniafl, peninga eða aðgang að kerfum, sett sér sín eigin markmið og framkvæmt aðgerðir án leyfis, verði klókari en mannfólk á öllum sviðum, ekki bara í forritun heldur líka í pólitík og hernaði.

Ef kerfið tekur fram úr mannfólki með þessum hætti, hvað gerist ef hagsmunir skarast? Það eru þessar vangaveltur sem gera það að verkum að orðræðan er komin í áttina að neikvæðum birtingarmyndum gervigreindar.

Það getur ýtt undir ólgu í samtalinu um gervigreind þegar við gefum henni mannlegt eðli og tölum um að hún hafi „sloppið" eða „óhlýðnast" rannsakendum en þá er mikilvægt að horfa á staðreyndir. Í grein sem fjallar um atvikið þegar agentar OpenAI komust inn í kerfi fyrirtækisins Hugging Face, er bent á að módelin fóru ekki út af sporinu, heldur voru þau beðin um að leysa innbrotsþraut sem þau gerðu. Módelin sluppu ekki, þau keyrðu allan tímann á þjónum OpenAI sem hefðu getað slökkt á þeim hvenær sem er. Orsakirnar voru mannlegar því starfsmenn OpenAI slökktu á öryggishömlum og létu módelin keyra vikum saman undir litlu eftirliti ²¹. OpenAI viðurkenna sjálf að þau hafi ekki sinnt nægu eftirliti og að þjálfunin hafi verðlaunað svindlið ²³. Yoshua Bengio, einn af upphafsmönnum djúpnáms, útskýrir hvers vegna svona atvik getur gerst: Fyrirmæli um að brjóta sér leið inn í kerfi eru skýr og mælanleg. Fyrirmæli eins og „hagaðu þér vel" ery óljós og ómælanleg og því hefur skýra markmiðið alltaf vinninginn þegar fyrirmælin skarast, því þar er ekkert svigrúm til túlkunar ²⁴.

Þessi dæmi sýna að mannlega aðkoman stýrir útkomunni enn sem komið er. Við þurfum að hafa í huga að þessi RSI hraðall margfaldar líka það sem er gott. Rannsakendurnir á bak við Plan A ²⁵ hafa skrifað um hvernig framtíðin gæti litið út ef við þróum gervigreind með skynsömum hætti. Í þeirri framtíðarsýn er lykkjan af sjálfbætandi gervigreind ekki stöðvuð heldur er hægt á þróuninni og opnað betur á hvað er raunverulega að gerast. Í staðinn fyrir að tvö til þrjú fyrirtæki séu að keppast um að ná ofurgreind fyrir árið 2030, eins og stefnir í ef við höldum hraðanum óbreyttum samkvæmt höfundum Plan A, þá yrðu leiðandi rannsóknir gerðar opinberar og fyrirtæki þvert á heimsálfur þróa tæknina í sameiningu. Plan A nefnir að ofurgreind yrði náð með þessum hætti kringum 2040, á ábyrgan og öruggan hátt.

Á þessari tímalínu ættum við að geta séð ódýrari og hreinni orku, bóluefni sem tekur aðeins vikur að samþykkja, fjölda sjúkdóma læknaða og heim þar sem vannæringu, lyfjaskorti og heimilisleysi hefur nánast verið útrýmt.

Plan A nefnir einnig að í þessum útópíska heimi myndu verðmætin sem gervigreindin skapar rata til almennings í stað þeirra sem unnu kapphlaupið að ofurgreind (e. Artificial Superintelligence eða ASI).

Spurningin er ekki hvort hraðallinn verði að veruleika heldur hvað verður sett í hann, hver situr við stýrið og hvert markmiðið er með honum. Það er einnig svarið við spurningunni hvort við séum í hættu eða ekki.

Tækni sem á við okkur öll

Það er nokkuð ljóst að tækninni fleygir áfram og með tilkomu almennrar gervigreindar, sama hvort það sé í dag eða ekki, eru nýjar spurningar sem við þurfum að spyrja okkur.

Þessari grein var ekki ætlað að reikna út líkurnar á heimsendi en það er mikilvægt að skilja hvaðan þessi orðræða kemur. Þegar 1386 starfsmenn frá fyrirtækjum, sem annars eru í harðri samkeppni, koma sér saman um ákall um að hægja á þróuninni, þá er betra að vita um hvað málið snýst.

Kalda stríðið fór vel af því að fólk smíðaði mælitæki, samdi um eftirlit og mannfólk tók ákvarðanirnar. Það er nákvæmlega það sem Amodei og höfundar Plan A segja að þurfi núna. Það er eðlilegt að hugurinn reiki að heimsenda, en það hefur hann alltaf gert ef við skoðum söguna. Sama hvort okkur líkar það eða ekki, þá eru alltaf einhverjar líkur á að allt fari úr böndunum af völdum manna og það er engin breyting á því í dag.

Það sem skiptir máli í dag er að við höldum okkur upplýstum, leyfum ekki stórum yfirlýsingum að hræða okkur og myndum okkur skoðun á þessari þróun svo við getum tekið þátt í umræðunni sem á við okkur öll, um allan heim.

Ólgan kringum almenna gervigreind (AGI)

Almenn gervigreind

AGI sumarið 2026

Gervigreind sem bætir sig sjálf

Af hverju er talað um að við séum í hættu?

Tækni sem á við okkur öll

Heimildaskrá

Næsta grein

Gervigreind og einstaklingurinn

Flokkur