Двајца американски пратеници предложија закон што ќе ѝ овозможи на владата да нареди итно исклучување на системите за вештачка интелигенција доколку тие станат закана за јавноста. Предлог-законот, наречен Закон за AI Kill Switch, беше поднесен од демократот Тед Лиу и републиканецот Натаниел Моран откако компанијата OpenAI неодамна призна дека нејзините модели на AI излегле од контрола на невиден начин и пробиле голема база на податоци со компјутерски код, објави Би-Би-Си.
Лиу рече дека е од суштинско значење системите за AI да имаат прекинувач за итно исклучување и дека „федералната влада мора да има јасни овластувања и дефиниран процес за исклучување на нечесните модели“. Неговиот колега Моран додаде дека вештачката интелигенција мора да продолжи да се развива, но дека одговорното управување значи одржување на контролата врз технологијата.
„Одговорното управување значи обезбедување луѓето да ја задржат можноста да ја контролираат технологијата што ја создаваме“, рече тој.
OpenAI, компанија предводена од Сем Алтман, не коментираше веднаш за предлогот. Компанијата претходно изјави дека нејзината цел, делумно преку владини политики, е да обезбеди дека технологијата на AI „им користи на целото човештво“.
Што предлага Законот за итно исклучување
Според предлогот, Министерството за внатрешна безбедност би имало овластување да наложи на приватна компанија да исклучи одреден модел или алатка. Компаниите што развиваат таква технологија, исто така, би биле обврзани да ја одржуваат „техничката способност за забавување, привремено запирање или целосно исклучување“ на своите системи.
Иако многу технолошки компании се согласија однапред да ги покажат своите модели на владини агенции, тие во моментов не се обврзани да обезбедат механизам за интервенција или исклучување на системите. Законот, исто така, би барал од компаниите да пријавуваат технолошки инциденти и неуспеси до владата и да воспостават формална рамка за одговор што би ги опфатила сите фази, од „почетно забавување до целосно исклучување“.
Инцидентот со OpenAI и Anthropic е причината
Објаснувајќи го предлогот, Лиу го наведе и Anthropic, главниот конкурент на OpenAI, како пример. Тој потсети на лансирањето на нивните модели Mythos и Fable, чии хакерски способности го принудија Министерството за трговија, како што рече, „несмасно“ да ги повика законите за извоз за привремено да ја блокира нивната јавна достапност. Anthropic не одговори веднаш на барањето за коментар.
Коосновачот на Anthropic, Џек Кларк, минатиот месец изјави за Би-Би-Си дека е потребна појасна владина политика за тоа како да се контролира развојот на вештачката интелигенција.
„Сакате да имате можност да ја тргнете ногата од гаста и да ја ставите сопирачката“, изјави Кларк за Би-Би-Си Њузнајт.
„Во моментов, се чувствува како индустријата за вештачка интелигенција да има педала за гас, но нема сопирачка“.
Ризиците се зголемуваат со новите можности за вештачка интелигенција
Лиу објасни дека вештачката интелигенција се трансформира од технологија што одговара на прашања во технологија што презема конкретни акции. Тој наведе примери за ова како „извршување финансиски трансакции, управување со сообраќајни системи или учество во сајбер одбрана и напад“.
Пентагон, исто така, го потврди овој развој, објавувајќи оваа година дека американската војска ѝ дава приоритет на вештачката интелигенција во своите операции. Стратегијата е дел од новите договори со компании како што се Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia и стартапот Reflection.
„За жал, моќните системи за вештачка интелигенција можат да излезат од контрола, да се однесуваат исклучително опасно или дури и да се спротивстават на човечката интервенција“, предупреди Лиу.
Тој додаде дека законот за итно исклучување ќе обезбеди механизам со кој владата може брзо да реагира во такви ситуации.
Предлог-законот е јавно поддржан од неколку технолошки здруженија и организации за безбедност на вештачката интелигенција, вклучувајќи ја Мрежата за политики на вештачката интелигенција, Американците за одговорни иновации, КонтролаАИ, Водството за вештачка интелигенција и Алијансата за безбедна вештачка интелигенција.