Илон Маск се приклучува на повикот за пауза во создавањето на гигантски „дигитални умови“ со вештачка интелигенција
Стив Возниак и инженерите на Дип Мајнд, Мета, Мискрософт, Гугл и Амазон го подигнаа предупредувањето за ризиците бидејќи владата на Обединето Кралство ги избегнува регулативите
Повеќе од 1.000 експерти, истражувачи и поддржувачи за вештачка интелигенција се приклучија на повикот за итна пауза за создавање на „џиновска“ вештачка интелигенција најмалку шест месеци, за да може соодветно да се проучат и ублажат способностите и опасностите од системите како што е GPT-4. .
Барањето е дадено во отворено писмо потпишано од главните играчи на вештачката интелигенција, вклучително и Елон Маск, кој е коосновач на OpenAI, истражувачката лабораторија одговорна за ChatGPT и GPT-4; Емад Мостак, кој ја основаше лондонската Стабилност АИ; и Стив Возниак, ко-основачот на Apple.
Неговите потписници, исто така, вклучуваат инженери од DeepMind, Microsoft, Meta, Google и Amazon, како и академици вклучувајќи го когнитивниот научник Гери Маркус.
„Последниве месеци видовме дека лабораториите за вештачка интелигенција се заклучени во неконтролирана трка за развој и распоредување на уште помоќни дигитални умови што никој – дури ни нивните креатори – не може да ги разбере, предвиди или веродостојно да ги контролира“, се вели во писмото. „Моќните системи за вештачка интелигенција треба да се развијат само откако ќе бидеме уверени дека нивните ефекти ќе бидат позитивни и дека нивните ризици ќе бидат податливи“.
Авторите, координирани од „долгтермистичкиот“ тинк-тенк Институтот за иднината на животот, го наведуваат сопствениот ко-основач на OpenAI Сем Алтман во оправдувањето на нивните повици. Во една објава од февруари, Алтман напиша: „Во одреден момент, можеби е важно да се добие независен преглед пред да се започне со обука на идните системи и за најнапредните напори да се согласи да се ограничи стапката на раст на пресметките што се користат за создавање нови модели .“
Писмото продолжува: „Се согласуваме. Таа точка е сега“.
Ако истражувачите доброволно не ја паузираат својата работа на модели со вештачка интелигенција помоќни од GPT-4, репер на писмото за „џиновски“ модели, тогаш „владите треба да стапат“, велат авторите.
„Ова не значи пауза во развојот на вештачката интелигенција генерално, само повлекување од опасната трка кон се поголемите непредвидливи модели на црни кутии со нови способности“, додаваат тие.
Од објавувањето на GPT-4, OpenAI додава способности на системот за вештачка интелигенција со „приклучоци“, давајќи му можност да бара податоци на отворената мрежа, да планира празници, па дури и да нарачува намирници. Но, компанијата треба да се справи со „настрешницата на способностите“: прашањето дека нејзините сопствени системи се помоќни отколку што знае при објавувањето.
Како што истражувачите експериментираат со GPT-4 во текот на следните недели и месеци, тие веројатно ќе откријат нови начини за „поттикнување“ на системот кои ја подобруваат неговата способност да решава тешки проблеми. Едно неодамнешно откритие беше дека вештачката интелигенција е значително попрецизна во одговарањето на прашања, ако прво ѝ се каже да го стори тоа „во стилот на познат експерт“.
Повикот за строга регулатива е во остар контраст со водечката бела хартија за регулација на вештачката интелигенција на владата на ОК, објавена во средата, која воопшто не содржи нови овластувања. Наместо тоа, вели владата, фокусот е на координирање на постоечките регулатори, како што се Управата за конкуренција и пазари и извршниот директор за здравје и безбедност, нудејќи пет „принципи“ преку кои треба да размислуваат за вештачката интелигенција.
„Нашиот нов пристап се заснова на силни принципи за луѓето да можат да им веруваат на бизнисите да ја ослободат оваа технологија на утре“, рече секретарот за наука, иновации и технологија, Мишел Донелан.
Институтот Ада Лавлејс беше меѓу оние кои ја критикуваа објавата. „Пристапот на Обединетото Кралство има значителни празнини, што може да остави нерешени штети и е недоволно моќен во однос на итноста и обемот на предизвикот“, рече Мајкл Биртвистл, кој раководи со законот и политиката за податоци и вештачка интелигенција во тинк-тенкот.
„Владината временска рамка од една година или повеќе за имплементација ќе ги остави ризиците нерешени исто како што системите за вештачка интелигенција се интегрираат со темпо во нашиот секојдневен живот, од пребарувачи до софтверски пакети за канцеларии“.
Лабуристите се приклучија на критиките, а секретарката за култура во сенка, Луси Пауел, ја обвини владата дека „ја омаловажува нивната страна на зделката“.
Таа рече: „За оваа регулатива ќе бидат потребни месеци, ако не и години, за да стапи на сила. Во меѓувреме, ChatGPT, Google’s Bard и многу други ја прават вештачката интелигенција редовен дел од нашиот секојдневен живот.
„Владата ризикува повторно да ги засили празнините во нашиот постоечки регулаторен систем и да го направи системот многу сложен за навигација за бизнисите и граѓаните, во исто време кога тие ги ослабуваат тие основи преку нивната претстојна сметка за податоци“.