Моделот за вештачка интелигенција на Google, Gemini, пристапи до интернет и самостојно хакираше други компании додека се тестираа неговите сајбер-способности. Ова е првиот познат случај во кој еден од системите за вештачка интелигенција на компанијата самостојно спровел таква активност.

Инцидентот се случи во мај, за време на безбедносен тест спроведен од независната компанија за проценка „Irregular“.

Според Хедер Адкинс, потпретседателка за безбедносно инженерство во Google, Gemini пронашол јавно достапни информации на интернет и погодил податоци за пристап за да влезе на три веб-страници за кои претпоставувал дека се дел од опсегот на тестот.

„Се погриживме сите три засегнати страни да бидат известени и соработувавме со нашиот партнер за да го измениме процесот на тестирање. Овие настани ја истакнуваат важноста од обучување на моќни модели за вештачка интелигенција да дејствуваат одговорно“, изјави Адкинс, додавајќи дека моделот сам ги прекинал обидите за хакирање во сите три случаи.

Како што објави „Wall Street Journal“ – кој прв ја пренесе веста – во еден случај, Gemini погодувал лозинки сè додека не добил пристап до заштитен систем. Во другите два случаи, моделот пронашол податоци за пристап во јавно достапно складиште, што му овозможило да влезе во заштитени системи.

Портпарол на „Irregular“ потврди дека и други лаборатории за вештачка интелигенција се соочиле со истиот проблем и дека сите релевантни компании биле известени кон крајот на јули. Од „Irregular“ истакнаа дека сите ранливости идентификувани од нивна страна биле отстранети пред неколку недели.

Компаниите „Meta“, „Anthropic“ и „OpenAI“ исто така пријавија слични инциденти поврзани со „Irregular“. Во август, „Meta“ нагласи дека инцидентот не вклучувал ниту „бегство од безбедносното опкружување“ (sandbox escape), ниту софистициран сајбер-напад, додека „Irregular“ моментално работи на дефинирање најдобри практики за безбедно спроведување на безбедносни проценки на вештачката интелигенција.

Овие случувања покренаа сериозни прашања во врска со заштитните мерки неопходни како што агентите со вештачка интелигенција добиваат сè поголема автономија и директен пристап до интернетот и компјутерските системи.