ИИ и ответственность человека: урок OpenAI

Оксана Тыниченко – Град Ватикан 

Испытания были направлены на оценку безопасности моделей в области киберзащиты. Одна из проверяемых систем была GPT-5.6 Sol, другая — экспериментальная модель, которая пока не представлена публично. Обнаружив уязвимость среды, системы использовали ее для выполнения поставленной задачи.

Произошедшее однако не свидетельствует о самостоятельном стремлении искусственного интеллекта выйти за установленные пределы. Как объясняет в интервью ватиканским СМИ Лука Самбуччи, итальянский специалист по безопасности искусственного интеллекта, эти системы действуют в соответствии с заданными целями. «Модели не выходят за собственные границы, если мы не допускаем ошибок в их управлении», — объяснил эксперт. По его словам, ключевым является не само поведение системы, а условия, в которых она проходила испытание: «Системы находились под проверкой, и такие проверки должны проходить в защищенной среде. В данном случае среда не была достаточно изолирована».

По мнению Самбуччи, подобные случаи едва ли изменят отношение общества к искусственному интеллекту. Как он отмечает, доверие к этим технологиям постепенно начинает превращаться в зависимость. Поэтому главный вопрос заключается уже не только в том, насколько они надежны, но и в том, насколько человек готов обходиться без них.

Случай OpenAI выходит далеко за рамки отдельного эпизода в сфере кибербезопасности. Каждый технологический прогресс расширяет возможности человека, но одновременно увеличивает его ответственность. Искусственный интеллект может стать важным инструментом развития и служения человеку лишь тогда, когда безопасность и ответственность человека за применение этих технологий не рассматриваются как второстепенные вопросы.

Именно здесь проявляется различие между логикой алгоритма, который стремится выполнить поставленную задачу, и человеком, способным осмысливать последствия своих решений.

Как напоминает Папа Лев XIV в энциклике Magnifica humanitas, «для алгоритма ошибка — это то, что нужно исправить, а для человека она может стать началом глубокого изменения» (Magnifica humanitas, n. 128). Эта разница показывает, что развитие искусственного интеллекта не может сводиться только к совершенствованию технологий: оно требует сохранения человеческой способности направлять их с осторожностью, компетентностью и чувством меры.