Мировое военное сообщество и технологический сектор столкнулись с острой дискуссией о необходимости предоставления полной автономности боевым беспилотным системам в будущих конфликтах. Стремительное масштабирование применения БПЛА в текущих боевых действиях вынуждает правительства рассматривать интеграцию нейросетей для принятия решений на уничтожение целей. Подробный разбор этического и технологического кризиса в оборонной сфере опубликовало зарубежное издание The Guardian.
Разработчики программного обеспечения предлагают концепцию «зон уничтожения», где оператор лишь верифицирует отсутствие союзников на определенной территории, а поиск и ликвидацию объектов алгоритмы осуществляют полностью самостоятельно. Подобный подход должен компенсировать дефицит времени и снизить когнитивную нагрузку на пилотов в условиях высокоинтенсивного радиоэлектронного противодействия.
«Мораль — это прерогатива людей. Системы с ИИ должны расширять возможности и суждения оператора, а не полностью заменять его», — подчеркивает сооснователь американского стартапа Neros Олаф Хичва.
Юристы и специалисты по машинному обучению заявляют о невозможности кодирования этических норм. Языковые модели работают на основе вероятностных вычислений, что прямо противоречит 57-й статье Женевской конвенции, обязывающей комбатантов делать все возможное для верификации гражданских лиц и объектов. ООН до сих пор не достигла глобального консенсуса по управлению автономным оружием, что делает применение таких технологий юридически неконтролируемым.
