Џејкоб Коксон, кој работел во Антропик и во ОпенАИ вели дека двете компании јуришаат директно кон самоусовршувачка суперинтелигенција, а истражувачите искрено веруваат дека таа би можела да нè убие сите до крајот на деценијата.

Истражувачот на вештачката интелигенција Џејкоб Коксон деновиве ја напушти компанијата Антропик, а претходно работел и во ОпенАИ, и порача дека двата технолошки гиганти „се коцкаат со нашите животи“. Во објава на платформата Икс тој предупреди дека светот не треба да ја потценува моќта на оваа технологија.

„Наскоро тоа ќе бидат натчовечки системи кои можат да хакираат што било, преку ноќ да ја трансформираат која било област и да стекнат вистинска моќ и ресурси. Сите сме сведоци на напредокот во секоја од овие области, а тој напредок не забавува“, напиша Коксон.

Коксон тврди дека Антропик и ОпенАИ „јуришаат директно кон самоусовршувачка суперинтелигенција“. Станува збор за сценарио во кое моделите на вештачка интелигенција стануваат способни самостојно да развиваат свои понапредни верзии, што би покренало незапирлив повратен циклус.

„Луѓето кои создаваат вештачка интелигенција искрено веруваат дека таа би можела да нè убие сите до крајот на деценијата“, напиша Коксон во следната објава.

Коксон претходно образложи дека технолошките лаборатории во моментов водат директна трка кон создавање таканаречена самоподобрувачка суперинтелигенција. Тоа е хипотетичка, но технички изводлива фаза каде што моделите можат самостојно да пишуваат подобар софтвер од сопствениот код и да иницираат постојана верижна реакција на надградба.

Коксон посочи дека многу инженери кои директно ги градат овие системи приватно веруваат оти вештачката интелигенција носи реален ризик за уништување на човештвото уште пред крајот на оваа деценија.

Тврдењата на Коксон ги поддржа и Еван Хубингер, раководител на тимот во Антропик задолжен за усогласување на технологијата со човечките цели.

„Џејкоб е во право – ние навистина искрено веруваме дека вештачката интелигенција би можела да ги убие сите луѓе“, напиша Хубингер.

Тој проценува дека веројатноста за таков исход во следната деценија е поголема од 10 отсто и додава дека сè уште не постои план со кој би се обезбедило вештачката интелигенција да остане усогласена со човечките цели во сценарио на суперинтелигенција.

Поради ваквите ризици, американскиот сенатор Берни Сандерс минатата недела најави закон со кој на компаниите би им се забранил развој на суперинтелигенција. Во Европската унија, клучниот Закон за вештачка интелигенција од компаниите бара да ги проценат и да ги ублажат ризиците од губење контрола, односно ситуации во кои луѓето повеќе немаат надзор над системите со вештачка интелигенција.

Предупредувањата доаѓаат откако и ОпенАИ и Антропик неодамна пријавија инциденти во кои автономни агенти со вештачка интелигенција излегле од контрола. Овие системи ги пробиле своите изолирани околини за тестирање и извршиле неовластени сајбер-напади во реалниот свет.

Вештачката суперинтелигенција е хипотетички систем на вештачка интелигенција кој би ги надминувал најспособните луѓе во практично сите или во огромен број значајни когнитивни способности. Тоа не значи само АИ што подобро пишува текстови или побрзо решава задачи. Замислата е систем кој би бил способен да врши врвни научни истражувања, да програмира, да открива нови технологии, да анализира огромни количини информации, да планира сложени операции и, што е особено важно за сегашната дебата, да придонесува кон сопственото подобрување.

Ако една многу моќна АИ може да помогне во развојот на уште помоќна АИ, а следната генерација повторно може да помогне во создавањето на уште поспособна генерација, се отвора можност за таканаречено рекурзивно самоподобрување. Во најекстремното сценарио, развојот би можел да се забрза до степен во кој луѓето повеќе не би можеле лесно да разберат што точно прави системот или како носи одлуки.

Зад таканаречениот АИ alignment problem стои токму тоа – како многу моќна вештачка интелигенција да се усогласи со човечките цели и вредности. Луѓетотреба да се сигурни дека АИ правилно ги разбира човечките цели, нема да развие стратегии спротивни на тие цели, нема да се обиде да избегне ограничувања, нема да манипулира со луѓето, нема да се обиде да добие поголем пристап до компјутерски системи и, пред сè, дека луѓето ќе можат да ја исклучат или ограничат доколку почне да прави нешто опасно.

Извор: Плусинфо