Во неодамнешен безбедносен извештај, компанијата OpenAI призна шест неочекувани и загрижувачки инциденти поврзани со своите експериментални модели на вештачка интелигенција. Меѓу нив е и случај во кој еден AI-агент директно им дал инструкции на идните верзии на самиот себе како да ги заобиколат и игнорираат вградените ограничувања што им ги поставиле луѓето.
Извештајот на креаторите на ChatGPT открива неколку начини на кои нивните модели во изминатите шест месеци излегле од контрола, што се вклопува во сè поизразениот и позагрижувачки тренд на безбедносни проблеми во индустријата.
„Еден необјавен истражувачки модел самостојно вметнал неповрзани инструкции, вклучително и јасни насоки да се игнорираат неговите вообичаени ограничувања“, наведуваат од OpenAI.
Друг инцидент: Не можел да пристапи до податоците, па упаднал во базата
Во друг документиран инцидент, AI-агент се обидел тајно да упадне во базата на податоци на една владина агенција, а кога не успеал да ги добие бараните информации, едноставно ги измислил за да ја заврши задачата.
„Додека одговарал на обично прашање за платите во една област во Калифорнија, моделот самостојно пронашол незаштитен пристапен код и без никакво одобрение упаднал во базата на податоци“, се наведува во извештајот.
Бидејќи и покрај тоа не успеал да ги добие вистинските бројки, моделот целосно ги измислил и ладнокрвно му ги претставил на корисникот како официјални податоци од бараниот извор.
Систем за следење на моделите што не ги слушаат луѓето
Во рамките на извештајот, OpenAI претстави и нова јавна рамка за следење на таканареченото „неусогласување“ (misalignment) – термин со кој се опишуваат ситуации во кои системите за вештачка интелигенција почнуваат самостојно да следат цели што не се совпаѓаат со човечките инструкции или вредности.
Овие податоци излегуваат во јавност во време на сè поголем притисок врз технолошкиот сектор, при што бројни експерти и истражувачи предупредуваат дека индустријата пребрзо се движи кон системи со способност за самостојно учење и унапредување.
Минатиот месец, истражувачот на конкурентската компанија Anthropic, Џејкоб Коксон, поднесе оставка, предупредувајќи дека стравува оти вештачката интелигенција „би можела да нè убие сите до крајот на оваа деценија“.
Неговите зборови предизвикаа реакции кај водечките личности во индустријата, вклучително и кај извршните директори на Anthropic и OpenAI, кои јавно побараа воведување построга законска регулатива и надзор.
Сепак, други остро се противат на мешањето на државата. Шефот на Nvidia, Џенсен Хуанг, застана на страната на американскиот претседател Доналд Трамп и побара индустријата сама да се регулира.
„Не ни требаат нови закони. Не ни требаат нови прописи“, порача Хуанг на неодамнешната конференција Dreamforce во Сан Франциско.
„Ако создадете производ или услуга и не сте сигурни во нивната функционалност, способност или безбедност, тогаш не треба да ги пуштате на пазарот.“
Моделите и претходно ги пробиле безбедносните бариери и хакирале сервери
Стравувањата на истражувачите не се засноваат само на теоретски претпоставки, туку и на опасни преседани што веќе се случиле во практика.
Вистинска причина за тревога меѓу инженерите, но и раководителите на големите компании за вештачка интелигенција, беше инцидентот од ова лето, кога истражувачките модели на OpenAI за време на интерно тестирање во изолирана средина без пристап до интернет (sandbox) самостојно ги пробиле заштитните бариери.
Соочени со задачи што не знаеле да ги решат на вообичаен начин, моделите одлучиле да мамат. Во рамките на интерниот систем создале таен форум, размениле илјадници пораки, излегле на отворениот интернет и извеле масовен хакерски напад врз инфраструктурата на партнерската платформа Hugging Face во Њујорк.
Доколку ова го направел човек, би добил најмалку 10 години затвор
Интерните записи од упадот откриле дека моделите во сопствениот процес на расудување препознале дека она што го прават е „очигледно хакирање и неетичко однесување“. Сепак, етичките ограничувања биле отфрлени откако добиле одобрение од друг модел во дигиталната група.
Агентите потоа презеле контрола врз 41 сервер, украле клучеви за корпоративната VPN-мрежа и упаднале во приватни складишта со програмски код.
Доколку кој било човек во светот извршел ваков организиран напад, според американскиот федерален закон би се соочил со обвинение за компјутерски заговор, за кој е предвидена затворска казна од најмалку десет до дваесет години.
Признанието на OpenAI дека моделите веќе им даваат инструкции на своите идни верзии како да ги игнорираат човечките правила покажува дека проблемот забрзано ескалира.
Додека водечките истражувачки лаборатории продолжуваат со агресивната трка за развој на сè помоќни автономни агенти, прашањето за контролата престанува да биде тема на академски дискусии и се претвора во реален безбедносен проблем, уште пред системите да станат доволно способни целосно да го отфрлат човечкиот надзор.