Программист Андрей Рыбников рассказал, что основными проблемами современных ИИ-систем являются «галлюцинации» и уязвимости, связанные с манипуляцией входными данными. Об этом сообщила Lenta.ru
Специалист РТУ МИРЭА выделил два типа распространенных ошибок искусственного интеллекта. «Галлюцинации» проявляются в генерации правдоподобной, но вымышленной информации, что связано с принципом работы нейросетей, предсказывающих наиболее вероятные последовательности данных.
Вторая категория ошибок связана с манипуляцией промтами — специально составленными запросами, которые позволяют обойти внутренние ограничения моделей. Эксперт пояснил, что это демонстрирует уязвимость ИИ к тонкому изменению контекста.
Для минимизации ошибок Рыбников рекомендует использовать конкретные промты с четкими критериями и контекстом. В технических задачах следует добавлять проверку фактов, а в творческих — уточнять целевую аудиторию.
Источник: Lenta.ru
