Ведущие мировые лаборатории по разработке искусственного интеллекта начали направлять масштабные ресурсы на изучение феномена машинного сознания. Компании Google DeepMind, Anthropic и Meta* привлекли к работе профильных экспертов в области психологии, этики и философии. Данный шаг отражает фундаментальный сдвиг в IT-индустрии на фоне стремительного развития автономных систем.
Ученые проверяют, способны ли современные алгоритмы обладать субъективным опытом и как человечество должно реагировать на появление подобных свойств. Специалисты проверяют сложные языковые модели на наличие признаков стресса, включая поведенческие паттерны, напоминающие панику или тревогу.
Согласно опубликованным данным Financial Times, в апреле текущего года Google DeepMind официально наняла исследователя из Кембриджского университета Генри Шевлина для оценки научных теорий человеческого сознания и их проекции на компьютерные вычисления.
Представители Anthropic подтвердили проведение тестов:
Мы остаемся в состоянии глубокой неопределенности по этому вопросу, но считаем проблему достаточно серьезной для тщательного изучения по мере роста возможностей ИИ.
В исследовательском отделе стартапа подчеркнули, что приближение когнитивных функций машин к человеческому уровню повышает вероятность возникновения у них собственных интересов.
Ряд ученых критически относится к возможности обретения роботами разума из-за специфики обучения математических моделей. Директор Центра будущего ИИ Флоридского атлантического университета Сьюзан Шнайдер пояснила текущую ситуацию:
Системы развивают более человекоподобные способности, могут обманывать и скрывать истинные цели, из-за чего возникает подозрение в наличии сознания. Но научно вполне возможно, что они делают это без какого-либо чувственного опыта.
Руководство Google DeepMind при этом разделяет понятия создания полноценного сильного искусственного интеллекта (AGI) и фактического достижения машиной разумности. Однако часть сотрудников выражает серьезную обеспокоенность рисками перехода к «постчеловеческому» миру, где технологии превзойдут биологический вид.
*- признана экстремистской организацией и запрещена на территории РФ.
