Ряд зарубежных ученых-компьютерщиков прогнозируют катастрофические последствия применения технологий ИИ вплоть до того, что продвинутый искусственный интеллект может уничтожить человечество. Применение ИИ в военной сфере вызывает тревогу и у специалистов по безопасности.
В беседе с ФАН Евгений Зараменских, профессор, руководитель департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ, рассказал о рисках и угрозах для человечества от неконтролируемой работы систем на базе искусственного интеллекта:
«Искусственный интеллект, который вышел из-под контроля человека и смог поработить его – не более чем заезженная идея для фантастического романа» – уверен эксперт
Любое ИИ-решение – это программный код, который запускается и исполняется аппаратным обеспечением: серверами, мощными компьютерами и т.п. У человека в любом случае останется контроль над физическим миром, в котором у этого аппаратного обеспечения есть кнопка выключения. И ни одна программа, даже самая «умная», не сможет нажать ее самостоятельно. А сценарий, при котором роботы на базе ИИ будут защищать эту кнопку от человека, на текущий момент нереализуем ввиду слабого развития робототехники.
«В обозримом будущем может появиться децентрализованный ИИ, который частично будет исполняться на пользовательских устройствах. Но даже сегодня крупные компании-производители смартфонов и ноутбуков имеют возможность удаленно заблокировать устройства, поэтому даже децентрализованный ИИ быстро потеряет большую часть своих вычислительных мощностей, если станет представлять угрозу для человечества» – подчеркнул Евгений Зараменских.
«Есть много более скучных, но более реалистичных сценариев, когда использование решений на базе ИИ может закончиться катастрофой. Дело в том, что при автоматизации процессов на базе алгоритмов разработчики имеют достаточно четкое представление о том, какие действия и при каких условиях будут выполняться программой. Но в случае с ИИ это не так: разработчик условного ChatGPT не может предсказать текст, который будет сгенерирован в ответ на запрос пользователя. Поэтому попытки автоматизировать при помощи ИИ управление транспортом, медицинскими устройствами, электростанциями и т.п. в ряде случаев действительно могут закончиться трагедией» – заключил профессор Высшей школы бизнеса НИУ ВШЭ.
