НОВИ ПРАВИЛА ЗА ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА: ЕУ воведува построги контроли, задолжителни ознаки и високи казни

Европската Унија почнува да применува нови правила со кои се заострува контролата врз вештачката интелигенција и начинот на кој компаниите ги користат напредните системи. Новите одредби носат поголеми овластувања за европските институции, но и дополнителни обврски за компаниите што развиваат и користат ВИ технологии.

Со Законот за вештачка интелигенција (AI Act), усвоен во 2024 година, Европската Унија воспоставува една од најсеопфатните законски рамки во светот за регулирање на оваа технологија. Целта е да се обезбедат поголема заштита на граѓаните и нивните основни права, но и јасни правила за компаниите кои развиваат или применуваат системи со вештачка интелигенција.

Нови правила за содржините создадени со ВИ

Една од клучните промени се однесува на содржините создадени или изменети со помош на вештачка интелигенција. Фотографиите, видеата, аудио-снимките и текстовите генерирани со ВИ ќе мора јасно да бидат означени, така што корисниците веднаш ќе можат да препознаат дека не станува збор за автентична содржина.

Посебни правила се однесуваат на таканаречените „дипфејк“ (deepfake) материјали. Станува збор за реалистично изменети фотографии, видеа и аудио-записи, при што лицата и организациите што ќе ги објавуваат ќе имаат законска обврска јасно да наведат дека тие се вештачки создадени или дигитално манипулирани.

Сепак, предвидени се исклучоци за сатирични, уметнички и фиктивни содржини. Со тоа, новите правила треба да се применуваат без да се ограничува креативната слобода.

Обврската за означување ќе важи и за текстови генерирани со вештачка интелигенција кои се однесуваат на теми од јавен интерес. Исклучок ќе има кога содржината претходно била детално прегледана од човек, а медиумот, организацијата или одговорното лице ја презема целосната одговорност за нејзината точност.

Строги ограничувања за препознавање лица

Новиот закон носи и дополнителни ограничувања за употребата на биометриската идентификација и технологиите за препознавање лица.

Иако во строго определени случаи овие технологии ќе можат да се користат за потребите на органите за спроведување на законот, забрането е неселективно собирање фотографии од лица со цел создавање бази на податоци за препознавање.

Истовремено, системите за вештачка интелигенција не смеат да користат измамнички техники или да ги искористуваат ранливите категории граѓани. Во оваа група спаѓаат децата, лицата со попреченост, како и луѓето кои се наоѓаат во тешка социјална или економска положба.

Дополнителни обврски имаат и компаниите што развиваат напредни модели за вештачка интелигенција. Тие ќе мора да водат детална техничка документација, да објавуваат информации за податоците употребени за обука на моделите и да обезбедат усогласеност со европските правила за авторски права.

За најмоќните системи, кои би можеле да претставуваат системски ризик, се воведуваат уште построги обврски. Тие вклучуваат редовни безбедносни проверки, проценки на ризик, мерки за сајбер-безбедност, известување за сериозни инциденти и активности за намалување на можните штетни последици.

Со новите правила се зајакнува и улогата на Канцеларијата за вештачка интелигенција при Европската комисија. Таа отсега ќе има право директно да ги проверува компаниите, да бара техничка документација, да врши инспекции и да ги оценува моделите на вештачка интелигенција.

Во одредени случаи, регулаторите ќе можат да извршат проверка и пред одреден модел официјално да биде пуштен на европскиот пазар.

Доколку при контролите се утврдат прекршувања, Европската комисија ќе може да наложи корективни мерки, да го ограничи користењето на одреден систем или целосно да го повлече од европскиот пазар.

Компаниите кои нема да ги почитуваат новите правила ќе се соочат со високи финансиски казни. Со примената на новите одредби, Европската Унија продолжува со воспоставување правила што треба да обезбедат поголема безбедност, транспарентност и одговорно користење на вештачката интелигенција.