Ръководителите на водещи компании за изкуствен интелект призоваха в сряда Организацията на обединените нации (ООН) да спаси света или поне хората в него, като намери начин да регулира бързо развиващата се технология, която самите те създават.

„Ако не бъде управляван правилно, смятам, че изкуственият интелект може дори да представлява риск за човечеството като цяло“, заяви Дарио Амодей, главен изпълнителен директор на Anthropic.

А неговият конкурент Сам Олтман, главен изпълнителен директор на OpenAI, предупреди: „Може да изгубим контрола над бъдещето си и той да премине в ръцете на изкуствения интелект“.

И двамата заявиха, че държавите по света трябва да въведат някакви предпазни механизми чрез Съвета за сигурност на ООН, пред който говориха в сряда, за да не позволят технологията да стане толкова мощна, че да не може да бъде овладяна.

Те призоваха също световната общност да гарантира, че мощта на изкуствения интелект няма да се съсредоточи в една компания или държава. Наред с това изтъкнаха ползите от технологията за благоденствието на човечеството и за онова, което Олтман описа като „даване на повече контрол на хората върху собствения им живот“.

Тези технологични лидери ни казват съвсем недвусмислено, че не може да оставим на тях отговорността да предотвратят катастрофа за света“, заяви британският външен министър Ед Милибанд пред Съвета за сигурност. „Не можем да ги пренебрегнем, защото са прави.“

Изкуственият интелект ще бъде в центъра на дискусиите на Г-20

Милибанд заяви, че когато Великобритания поеме председателството на Г-20 догодина, ще постави контрола върху изкуствения интелект в центъра на дискусиите. Целта ще бъде постигането на единни световни стандарти, „които да гарантират безопасното развитие на изкуствения интелект“.

Съединените щати обаче призоваха това да не се прави.

Опасенията за контрола върху изкуствения интелект не са причина да спираме по-нататъшното му развитие или да го ограничаваме с нова глобална структура за управление“, заяви научният съветник на Белия дом Майкъл Крациос. „Искаме вие, нашите съюзници и партньори, също да се възползвате от предимствата на тази технология.“

САЩ и Китай се борят за надмощие в областта на изкуствения интелект, а китайският посланик в ООН Фу Цун подчерта, че всички държави трябва да могат сами да избират технологиите за изкуствен интелект, които смятат за подходящи.

Той предупреди срещу „обединяването в затворени групички в технологичния сектор на принципа „ние срещу тях“ и принуждаването на други държави да вземат страна“, както и срещу подпомагането на неназовани големи сили, които според него се стремят към „цифрова хегемония“. Вместо това той призова държавите да насърчават моделите с отворен код – подхода на Китай към тази технология.

За повечето световни лидери един от ключовите въпроси за изкуствения интелект е: кой трябва да взема решенията за живот и смърт – човекът или машината?

Амодей, Олтман и главният изпълнителен директор на Hugging Face Клеман Деланг, който се включи дистанционно по връзка с технически проблеми, говориха пред най-влиятелния съвет на ООН. Заедно със световните лидери те се опитват да изяснят не само дали изкуственият интелект трябва да бъде контролиран, но и от кого, как изобщо би могло да стане това и кога може да се окаже, че вече е твърде късно.

Ден по-рано генералният секретар на ООН Антониу Гутериш предупреди за „роботи убийци“. Експерти и европейски лидери заявиха, че това не е преувеличение, а нещо, което или вече е мрачна реалност, или е опасно близо до превръщането си в такава.

Амодей призова световните лидери да се споразумеят да не допускат изкуственият интелект да създава биологични оръжия, да намерят начин да проверяват на какво са способни моделите и да „установят общи стандарти“ за изпитванията им, както и за случаите на загуба на контрол и злоупотреба.

Френският външен министър Жан-Ноел Баро, чиято страна свика заседанието в сряда, сравни сегашното състояние на изкуствения интелект както с излезлия извън контрол компютър HAL9000 от филма „2001: Космическа одисея“, така и със зората на атомната ера.

Както навремето с атома, международната общност сега трябва да регулира изкуствения интелект, за да използва максимално потенциала му и да избегне най-лошото“, заяви Баро.

Други лидери и държави също следят внимателно развитието на изкуствения интелект

Неговите опасения не бяха единствените, изразени през тази седмица на срещи на високо равнище в ООН.

Не бива да допускаме цената на днешното колебание да се превърне в утрешната катастрофа“, заяви посланикът на Либерия в ООН, Луис Г. Браун Втори.

В реч пред Общото събрание украинският президент Володимир Зеленски заяви, че скоро трябва да бъде установена някаква форма на човешки контрол върху машините. В противен случай, предупреди той, за страната му, която е във война от четири години и половина, може да се окаже твърде късно.

Вече съществува реална възможност изкуственият интелект, а не само хората, да започне да решава какво се случва на бойното поле. А ние се нуждаем от мир, преди да стигнем дотам“, заяви Зеленски.

Миналия месец руски дрон, който по всичко личи е използвал изкуствен интелект, „самостоятелно е взел решение за избор на цел, довело до смъртта на трима украинци. От техническа гледна точка роботите убийци са лесни за създаване и вече съществуват. Не бива да си правим илюзии за обратното“, посочи в имейл Кентаро Тояма, професор по информационни технологии в Мичиганския университет.

Специалистката по анализ на данни Руман Чоудхури, съоснователка на Humane Intelligence – организация с нестопанска цел, работеща за отчетност при изкуствения интелект – заяви, че идеята за роботи убийци „навява асоциации със злодей от научната фантастика, докато въпросът, който искам обществото да зададе, е много по-конкретен: кой е разрешил на машина да избере и атакува цел, при какви ограничения и кой носи отговорност за резултата?“.

Заседанието на ООН се проведе, докато китайският президент Си Дзинпин се отправяше към Вашингтон за дългоочаквано държавно посещение. Представителите на сектора на изкуствения интелект следят какво ще произтече от разговорите на Си с американския президент Доналд Тръмп. По-рано министърът на финансите на САЩ Скот Бесънт заяви, че двете държави са обсъдили възможен нов „механизъм за уведомяване“ при инциденти с изкуствен интелект, които биха могли да засегнат националната сигурност.

Във вторник обаче Тръмп, който възхвалява изкуствения интелект като „свръхинтелект“, заяви, че Съединените щати ще отхвърлят опитите за контрол над технологията, докато се стремят да спечелят надпреварата с Китай за нейното развитие. Крациос беше един от малцината, използвали този термин в Съвета за сигурност.

Междувременно регионални обединения в Европа, Азия и други части на света също се опитват да координират политиките си за изкуствения интелект. Различни държави, а дори и отделни административни единици в тях, като американските щати, разработват собствени политики.

Публикувано съгласно указанията на Economic.bg