Jacob Coxon szerint a mesterséges intelligencia legfeljebb egy éven belül képes lehet arra, hogy átvegye az internet irányítását.
Az Anthropic dolgozói „komolyan megrémültek” a mesterséges intelligencia fejlődésének sebességétől és attól, hogy mindez milyen veszélyeket rejt az emberiségre nézve – mondta a BBC-nek az amerikai AI-cég volt vezető biztonsági kutatója, Jacob Coxon.
A korábban az OpenAI-nál is dolgozó Coxon néhány nappal ezelőtt hagyta el az Anthropicot, ahol az AI-rendszerek betanítása volt a feladata. Az X-en közzétett bejegyzésében azzal indokolta a távozását, hogy meglátása szerint a cég nem veszi komolyan a biztonságot. Arról is írt, hogy szerinte az OpenAI és az Anthropic „az önfejlesztő szuperintelligencia fejlesztéséért verseng”, amivel „az életünkkel játszanak”.
Úgy gondolom, hogy ha nem lassítjuk a jelenlegi fejlődési ütemet, nagy az esélye annak, hogy mindannyian meghalunk a közeljövőben
– jelentette ki a BBC-nek adott interjújában.
A 27 éves Coxon távozása nem sokkal azután történt, hogy az Anthropic vezetője, Dario Amodei a mesterséges intelligencia fejlesztésének lelassítását szorgalmazta egy írásában. Amodei azt javasolta, hogy az iparág egészére terjesszék ki a lassítást előíró szabályozást, és ellenőrizzék függetlenül az AI-modellek fejlesztését. A javaslattal az OpenAI vezére, Sam Altman és Elon Musk is egyetértett.
Coxon a BBC-nek azt mondta, ő is egyetért a javaslattal, de szerinte a szabályozást a kínai fejlesztőcégekkel is el kellene fogadtatni, hogy elkerülhető legyen „egy nemzetközi szintű verseny”. „Azok az emberek, akik ezeknél a vállalatoknál dolgoznak, teljesen komolyan gondolják, amikor szabályozást kérnek, mert úgy érzik, hogy egy versenybe kényszerültek. És félnek ennek a versenynek a következményeitől” – fejtette ki.
Coxon szerint a legnehezebb kérdés, hogy miként nézne ki egy mesterséges intelligencia által okozott apokalipszis. Az Amodei által felvázolt kockázatok egyike az, hogy egy szuperkomputerként viselkedő botraj átveszi az internet irányítását.
Coxon úgy véli, ez a forgatókönyv akár fél, legkésőbb egy éven belül valóssággá válhat.