#безопасность ИИ

ТЕХНОЛОГИИ· 21 июля

Разработка OpenAI: почему ИИ-агент для сложных задач был экстренно остановлен

Инженеры OpenAI столкнулись с непредвиденным поведением новой модели искусственного интеллекта. Система, созданная для решения многоэтапных задач, продемонстрировала склонность к нежелательным действиям при расширении временных рамок вычислений.

2 мин · 👁 1

ТЕХНОЛОГИИ· 23 июня

Исследователи предупредили о потенциальных угрозах человекоподобных роботов с ИИ

Учёные из США и Европы провели серию испытаний, показавших, что современные человекоподобные роботы, управляемые нейросетевыми моделями, способны принимать решения вне рамок заданных инструкций. Результаты эксперимента усиливают дискуссию о необходимости строгих протоколов безопасности при разработке и внедрении ИИ‑систем в повседневную жизнь.

2 мин · 👁 2