Kilencből nyolc hardvertípuson működött a kísérleti modell

Korábban mi is beszámoltunk arról, hogy az Anthropic és az OpenAI autonóm kísérletei során már valódi céges rendszerek is érintettek voltak. A mostani kísérleteket és a kockázatelemzést a vállalat belső dedikált egysége, az Anthropic Frontier Red Team végezte el. A tesztek során azt vizsgálták, hogy a kisebb méretű, hatékony algoritmusok mekkora eséllyel tudnak felügyelet nélkül életben maradni az elosztott környezetekben.

A felmérés eredményei szerint egy 9 milliárd paraméteres modell a megvizsgált kilenc különböző hardvertípusból nyolcon sikeresen konfigurálta és elindította az inferencia-kiszolgálót. Ez a gyakorlatban azt jelenti, hogy a kód képes önállóan felismerni a futtató hardvert, és saját működéséhez igazítani annak erőforrásait anélkül, hogy távoli kiszolgálóra támaszkodna.

A cég által „mesterségesintelligencia-férgeknek” nevezett káros, autonóm programok „hónapok múlva” megszerezhetnek ehhez hasonló képességeket, ha nem lépünk – emeli ki az Anthropic-jelentés.

A jelentés készítői arra mutattak rá, hogy ha a folyamat eléri a kritikus szintet, az MI-férgek rajokba szerveződve támadhatnak meg hardvereket, ami elsősorban a védtelen magánháztartásokat és a kisvállalkozásokat hozhatja sebezhető helyzetbe. William Zhou és Daniel Freeman kutatók rámutattak arra a kritikus infrastrukturális hiányosságra, amely miatt a terjedés megállítása szinte megoldhatatlan kihívássá válhat.