Бърни Сандърс предлага забрана на изкуствения суперинтелект в САЩ

Дебатът за изкуствения интелект в САЩ вече не е само за прозрачност, авторски права и безопасност. Сенатор Бърни Сандърс и конгресменът Грег Касар обявиха на 3 септември предстоящ законопроект, който предлага постоянна забрана на изкуствения суперинтелект и временна пауза за част от най-мощните AI разработки.

Предложението носи името Ban Artificial Superintelligence Act. То все още не е приет закон и тепърва трябва да мине през американския законодателен процес. Въпреки това показва колко рязко се измества политическият разговор: от въпроса как да регулираме AI към въпроса дали определени системи изобщо трябва да бъдат създавани.

Какво предлага законопроектът

Според официалното съобщение на Сандърс проектът би забранил разработването и внедряването на системи, които надминават човешкия интелект, могат да подкопават държавни институции или притежават опасни способности като заобикаляне на команди за изключване.

Предлага се и временна пауза за напреднали AI разработки, докато бъде създаден нов федерален регулатор и бъдат въведени ясни правила за оценка на моделите. Новата институция трябва да следи най-мощните системи през целия им жизнен цикъл, да разпорежда премахването на опасни способности и при необходимост да надзирава унищожаването на системи, определени като суперинтелигентни.

За нарушения се предвиждат сериозни санкции. Компаниите могат да бъдат подложени на т.нар. „корпоративно смъртно наказание“, а физически лица — на до 20 години затвор. Проектът поставя и международна цел: САЩ да търсят споразумения, координация със съюзници и експортни ограничения, за да предотвратят създаването на суперинтелект и извън страната.

Най-трудният въпрос е дефиницията

Идеята звучи категорично, но прилагането ѝ ще бъде сложно. Как точно се доказва, че една система „надминава човешкия интелект“? Хората нямат еднакви способности, а AI моделите могат да бъдат отлични в програмирането и анализа, но слаби в задачи, които за човек са елементарни.

Същият проблем важи и за контрола. Нежелано поведение в лабораторен тест не е непременно доказателство за общ суперинтелект, но може да бъде важен сигнал за риск. Затова ще са нужни измерими критерии, независими тестове и ясна граница между научен експеримент, опасна способност и реално нарушение.

Какво означава това извън САЩ

Подобен закон би имал ефект далеч отвъд американските компании. Най-големите AI лаборатории, облачни доставчици и производители на чипове са част от глобални вериги. Ограничения върху модели, изчислителна мощност или износ могат да засегнат разработчици и потребители по целия свят, включително в Европа.

За ЕС темата също е важна. Европейският AI Act регулира системите според риска, но американско предложение за пълна забрана на определен клас AI би отворило нов международен спор: може ли технологията да бъде спряна в една държава, ако разработването ѝ продължи в друга?

Политически сигнал, не готова забрана

Най-важното уточнение е, че в момента няма действаща забрана на суперинтелекта в САЩ. Сандърс и Касар са обявили предстоящ законопроект. Предстоят публикуване на окончателен текст, дебати, комисии и гласувания, а съдържанието може да се промени.

Но самото предложение е силен политически сигнал. То поставя на масата най-крайната версия на AI регулацията: не само правила за безопасност, а законова граница, отвъд която развитието на технологията трябва да спре. Дали такава граница може да бъде определена и прилагана на практика, вероятно ще бъде един от най-важните спорове в следващата фаза на AI надпреварата.