Заместитель председателя Совета Безопасности РФ Дмитрий Медведев заявил, что опасения по поводу стремительного развития искусственного интеллекта имеют реальные основания. По его мнению, наибольшую угрозу сейчас представляет не гипотетическое уничтожение человечества сверхинтеллектом, а ошибки ИИ в системах управления критически важными объектами, сообщает Дмитрий Медведев в своем Telegram-канале.
Медведев привел в качестве примеров возможного ущерба столкновение самолетов в результате сбоя программного комплекса или уничтожение атомной электростанции. Он также предположил, что после подобных инцидентов ответственность могут попытаться возложить на разработчиков генеративного ИИ через многомиллиардные судебные иски.
Политик считает, что одним из очевидных решений могло бы стать международное соглашение об общих принципах регулирования искусственного интеллекта. Такой подход, по его оценке, позволил бы государствам получить инструменты для контроля за развитием технологии.
При этом Медведев выразил сомнение в возможности договориться между странами из-за интересов крупных корпораций и человеческой конкуренции. В качестве альтернативы он в ироничной форме предложил рассчитывать на «милость победителя» — будущего сверхинтеллекта.
Отдельно Медведев отметил, что нынешние системы ИИ не обладают очевидными человеческими эмоциями, а характеристики возможного суперинтеллекта пока неизвестны. Его публикация появилась на фоне дискуссий разработчиков технологий об угрозах ускоренного развития искусственного интеллекта.
