Anthropic описала экзистенциальные риски ИИ в проспекте IPO

Компания предупредила о возможных угрозах от автономных систем и сценариях их использования во вред

Anthropic включила предупреждение о катастрофических и экзистенциальных рисках искусственного интеллекта в проспект перед планируемым IPO на Nasdaq в ноябре. Документ насчитывает более 300 страниц, примерно треть посвящена рискам развития ИИ.

Как сообщает «Российская газета» со ссылкой на РБК, компания развивает языковую модель Claude. Акции Anthropic, согласно публикации, планируется разместить под тикером ANT.

В проспекте говорится, что мощные системы без должного контроля могут представлять серьёзную угрозу, если их используют во вред, копируют, превращают в оружие или наделяют высокой степенью автономности. Это оценка самой компании, изложенная в документе для инвесторов.

Anthropic также указывает, что наиболее совершенные модели разработчика уже показали способности, которые могут помочь злоумышленникам создавать химическое, биологическое и другое опасное оружие. Среди возможных проблем названы непредусмотренное поведение моделей, попытки сопротивляться отключению, скрывать или искажать сведения и действия, напоминающие шантаж.

Компания отдельно отмечает, что ущерб от катастрофы, связанной с ИИ, может оказаться настолько масштабным, что у страховой отрасли не будет ресурсов для покрытия таких рисков. Выход Anthropic на биржу может стать первым IPO компании, специализирующейся непосредственно на искусственном интеллекте.

+1
0
+1
0
+1
0
+1
0
+1
0
+1
0
+1
0
Читайте нас в Дзен Новости

Статьи по теме

Обзор российских новостных агрегаторов — 2026 год

Рынок новостных агрегаторов в России за последние годы заметно...

Какая проверка уникальности лучше и точнее: text.ru или content-watch.ru

Чей алгоритм проверки уникальности ближе к алгоритмам поисковиков yandex.ru...

Мелисса лекарственная — противовирусное средство, применение, сбор, обработка, бизнес-идея

Мелисса лекарственная (Melissa officinalis), с древних времён известная как...

Душица — польза и применение в народной и современной медицине

О Душице (орегано)Душица — одно из древнейших лечебных растений:...

Новое на ГИПОРТ

ЦАХАЛ подтвердил операцию по ликвидации туннеля в Газе

ЦАХАЛ и ШАБАК начали операцию по ликвидации туннеля к западу от «желтой линии» в Газе. Жителей предупредили не приближаться к району.

Press TV: три танкера подорвались на минах к востоку от Ормузского пролива

Press TV со ссылкой на ВМС Ирана сообщил, что три нефтяных танкера загорелись и потеряли ход после подрыва на минах к востоку от Ормузского пролива.

Politico: число инфекций кровотока, связанных с Klebsiella, выросло на 72%

Число инфекций кровотока, связанных с Klebsiella pneumoniae, выросло в Европе на 72% за шесть лет. Смертность при таких инфекциях может достигать 40–70 процентов.

Мудрик заявил, что мельдоний попал к нему в сборной Украины

Михаил Мудрик заявил, что мельдоний мог попасть в его организм во время сборов национальной команды. Футболист также рассказал о порядке выдачи таблеток игрокам.

Экс-футболистку сборной Бразилии задержали по подозрению в отмывании денег

Экс-игрока сборной Бразилии задержали в Форталезе. Суд штата Сеара утвердил задержание, полиция заблокировала активы подозреваемых на сумму свыше 25 миллионов долларов.

Сбой в системе связи парализовал работу главного вокзала Нюрнберга на юге ФРГ

Работа главного железнодорожного вокзала Нюрнберга, расположенного на юге ФРГ,...

Минэнерго США разрешило задействовать энергоблок Wagner

Минэнерго США разрешило PJM и Talen Energy задействовать четвертый энергоблок электростанции Wagner в Мэриленде для покрытия ожидаемого спроса.

Африканскую чуму свиней нашли в продукции в ТРЦ «РИО» в Ростове-на-Дону

В торгово-развлекательном центре «РИО», что находится в Ростове-на-Дону, вирус...

США и Венесуэла подписали соглашение об оборонном партнерстве

Соглашение США и Венесуэлы предусматривает совместные военные учения, обмен разведданными и сотрудничество в сфере оборонного оборудования.

Суд Петербурга арестовал экс-главу МРЭО по делу о взятке

Суд отправил в СИЗО бывшего начальника МРЭО ГИБДД № 15 Алексея Метлина. Его обвиняют в получении взятки в особо крупном размере.