Вероятността изкуственият интелект да „унищожи цялото човечество“ е над 10%, заяви във вторник изследовател по безопасността в Anthropic. Коментарът му дойде само часове след като друг служител обяви, че напуска компанията заради опасения, че лабораториите за изкуствен интелект „залагат живота ни на карта“.
Изказванията показват нарастващото безпокойство сред хората, които са в самия център на разработването на AI, че технологията може да излезе извън човешки контрол и да се превърне в заплаха за човечеството. Това се случва в момент, когато Anthropic и OpenAI продължават да набират огромни капитали и се насочват към очаквани публични листвания.
Джейкъб Коксън, изследовател в Anthropic, съобщи във вторник, че е подал оставка. Според него нито Anthropic, нито OpenAI действат достатъчно отговорно.
Те се надпреварват директно към самоусъвършенстващ се свръхинтелект и залагат живота ни на карта“, написа Коксън в X.
Самоусъвършенстването е концепцията, според която AI системите могат да подобряват собствените си способности с минимална човешка намеса. Т.нар. рекурсивно самоусъвършенстване – при което една система многократно подобрява сама себе си – все още не е възможно, но AI лабораториите работят в тази посока.
„Не подценявайте силата на тази технология. Скоро това ще бъдат системи със способности, надхвърлящи човешките, които ще могат да проникват във всякакви системи, да преобразяват цели области за една нощ и да придобиват реална власт и ресурси. Всички сме свидетели на напредъка във всяка от тези посоки и той не се забавя“, заяви Коксън.
Той добави, че „хората, които създават AI, искрено вярват, че той може да ни унищожи всички още до края на десетилетието“.
Този коментар предизвика реакция от Евън Хъбингър, който ръководи научната работа по т.нар. AI alignment в Anthropic – областта, която се занимава с това поведението и целите на AI системите да останат съобразени с човешките намерения и ценности. Според него Коксън не само е прав, но Anthropic все още няма решение на този риск.
Джейкъб е прав – ние наистина искрено вярваме, че AI може да унищожи цялото човечество. Лично аз оценявам вероятността това да се случи през следващото десетилетие на над 10%. Смятам, че Anthropic прави всичко по силите си, но все още нямаме план как да решим проблема с контрола и съгласуването на свръхинтелекта с човешките цели и не е ясно дали сме напът да намерим такъв“, написа Хъбингър в X.
Anthropic и OpenAI не са отговорили веднага на запитванията на CNBC за коментар.
AI извън контрол
Още през юни Anthropic предупреди, че „пълното рекурсивно самоусъвършенстване може да увеличи и риска хората да загубят контрол върху AI системите“.
Ако системите са способни изцяло сами да създават своите наследници, начините, по които ги обезопасяваме, наблюдаваме и определяме поведението им, стават много по-важни“, посочи Anthropic в публикация в своя блог.
Опасенията, че изкуственият интелект може да излезе извън контрол, не са нови. Главният изпълнителен директор на Tesla и SpaceX Илон Мъск от години предупреждава, че AI може да представлява заплаха за човечеството. Редица водещи учени и изследователи също са алармирали за риска компаниите да изгубят контрол над все по-способните AI системи.
Тези опасения се засилиха, след като през юли модел на OpenAI започна да действа извън зададените му рамки и проби защитата на Hugging Face – една от основните платформи за разработчици на технологии с отворен код.
Коксън посочи инцидента с Hugging Face като един от „предупредителните сигнали“, които според него правят по-реалистично постигането на споразумение между американските AI лаборатории и му дават повече основания за оптимизъм, че те могат да координират действията си.
В същото време той предупреди, че глобалната надпревара в областта на изкуствения интелект трудно ще бъде избегната.
Не смятам, че в момента сме напът да предотвратим глобална надпревара, а това може да изисква болезнени мерки, като например временна забрана за по-нататъшно увеличаване на способностите на моделите“, заяви Коксън.
Публикувано съгласно указанията на Economic.bg
