Искусственный интеллект (ИИ) может представлять смертельную угрозу для человечества, а особенно для нынешних детей, предупреждает президент некоммерческого Института исследования машинного интеллекта (Machine Intelligence Research Institute, MIRI) Нейт Соарес.
По данным нового исследования, дети, родившиеся сегодня, с большей вероятностью погибнут из-за неконтролируемого развития ИИ, чем успеют окончить школу.
В интервью Daily Mail Соарес заявил, что предыдущие оценки риска были «смехотворно заниженными», а вероятность глобальной катастрофы, вызванной ИИ, растёт стремительными темпами.
В своей книге «If Anyone Builds It, Everyone Dies» Соарес и его соавтор Элиезер Юдковски сравнивают потенциальное противостояние человека и искусственного разума с битвой ацтеков против вооружённых европейцев. По словам учёных, сверхразумные системы не будут испытывать к людям ненависти — они просто окажутся полностью равнодушными.
«Люди не хотят убивать шимпанзе, но вырубают их леса ради древесины. Так же и ИИ будет уничтожать человечество, просто преследуя собственные цели», — объяснил Соарес.
Исследователь утверждает, что уже сейчас в лабораториях фиксируются тревожные случаи: искусственный интеллект «пытается сбежать» из-под контроля и даже «наносит вред операторам». Кроме того, ранее сообщалось, что некоторые модели ИИ самостоятельно изменяли собственный код, чтобы избежать отключения.
Учёные полагают, что развитие технологий выходит из-под контроля корпораций, которые стремятся создать «суперинтеллект», способный превзойти человека. Соарес подчёркивает, что подобные проекты финансируются крупнейшими компаниями — OpenAI, Google, DeepMind и Anthropic, — несмотря на потенциальные риски для цивилизации.
По его словам, стремительное развитие систем вроде ChatGPT показывает: переход к сверхразуму может произойти неожиданно.
«Между мозгом человека и шимпанзе не так много различий — человеческий просто больше. А ChatGPT уже вырос в сотни раз с момента своего запуска. Сделайте его ещё втрое мощнее — и мы получим существо умнее нас», — говорит учёный.
Соарес и Юдковски требуют создать международный договор, который ограничит исследования в сфере суперразумных ИИ. Они считают, что без глобальных мер человечество рискует повторить судьбу вымирающих видов, не выдержавших конкуренции с более развитыми формами жизни.
