Нобеловите лауреати подписаха Римската декларация за ядрените оръжия и изкуствения интелект

Светла Чалъкова - Ватикана

„Човечеството се намира в решаващ момент от своята история“. С тези думи започва „Римската декларация за невъоръжен и обезоръжаващ мир в ерата на изкуствения интелект, ядрените и автономните оръжия, новите цифрови протоколи и възникващите модели на дигитално развитие“, подписана на 16 юли, в Капитолия в Рим. Документът беше приет в края на двудневния форум „Световна асамблея на нобеловите лауреати за изкуствения интелект и ядрената война“, проведен в комплекса Laudato Sì’, с участието на носители на Нобелова награда, водещи специалисти по изкуствен интелект, бивши държавни и правителствени ръководители, представители на университети и изследователски институции от цял свят.

Безпрецедентно предизвикателство

В текста на декларацията се подчертава, че светът е изправен пред „безпрецедентно предизвикателство“. Изкуственият интелект предлага огромни възможности, но съществува вероятност да доведе до масова загуба на работни места и да засили икономическото съперничество между ядрените сили. Концентрирането на тези технологии в ръцете на ограничен брой държави и големи корпорации може да породи дълбоки неравновесия във властта. Поради безпрецедентната скорост на развитие на ИИ той е способен да предизвика мащабни икономически, военни и социални трансформации.

Декларацията предупреждава, че нарастващата надпревара във въоръжаването с ядрени оръжия върви ръка за ръка с „също толкова опасна надпревара в областта на изкуствения интелект“. В този контекст участниците приемат призива на папа Лъв XIV за „невъоръжен и обезоръжаващ мир“ и отхвърлят разбирането, че сигурността може да се основава на страх, господство, заплаха и взаимно унищожение.

В интерес на човечеството

Шестте точки на документа призовават да бъде „обезвредена следващата надпревара във въоръжаването – както в сферата на изкуствения интелект, така и в ядрената област – преди именно тя да определи облика на следващия век“. Отправен е категоричен апел към разработчиците на системи за изкуствен интелект да действат „в интерес на човечеството, в съответствие с международното право и правата на човека“. Организациите и правителствата са приканени да упражняват надзор върху напълно автоматизираните процеси в системите за ИИ.

Международен договор за контрола на ИИ

„Окончателното решение за използване на ядрено оръжие никога не трябва да бъде поверявано на автоматизирана система“, се казва в декларацията. Затова се настоява за международен договор, който да забрани безотговорното интегриране на изкуствения интелект в системите за командване, контрол и пуск на ядрени оръжия и да гарантира, че винаги ще съществува ефективен и смислен човешки контрол.

Подписалите настояват също да се предотврати злонамереното използване на ИИ при кибероперации и атаки срещу ядрена инфраструктура. В същото време те насърчават „отговорното разработване и използване на изкуствения интелект за подобряване на човешкото благополучие, ускоряване на научния и медицинския напредък, защита на околната среда, укрепване на устойчивостта на обществата и насърчаване на мира, устойчивото развитие и общото благо“.

Дигитално общо благо

Последните точки на документа подчертават необходимостта от нови институционални механизми за глобално управление на изкуствения интелект. Декларацията подкрепя инициативите, вдъхновени от енцикликата Magnifica humanitas на папа Лъв XIV, както и Независимия международен научен панел на ООН за изкуствения интелект.

Подписалите призовават за създаване на „дигитално общо благо“ (digital commons), което да улесни събирането и споделянето на данни, необходими за задълбочаване на знанията и за предприемане на ефективни действия по въпросите на ядрените оръжия и изкуствения интелект. Те отбелязват, че светът е изправен пред множество взаимосвързани заплахи, а последствията често се понасят от хора, които нямат нито достъп, нито контрол върху технологиите, които ги пораждат.

Призив за ядрено разоръжаване

В заключение декларацията настоява спешно да започнат преговори за „проверимо и необратимо премахване на ядрените оръжия“. Потвърждават се ангажиментите, поети в Договора за неразпространение на ядрените оръжия (ДНЯО) и в Договора за забрана на ядрените оръжия (TPNW).

Подписалите призовават държавите да прекратят надпреварата във въоръжаването и да заложат на преговори и изпълнение на вече поетите международни задължения. „Държавите, притежаващи ядрени оръжия, трябва постепенно да намаляват ролята на тези оръжия в своите политики и военни доктрини, да укрепват стратегическата стабилност и да намаляват риска от първа употреба и от война с катастрофални последици“, се казва в текста.

„Заложено е нашето оцеляване и това на бъдещите поколения“, предупреждават в края на декларацията нейните подписали.