Джейкоб Коксон, покинувший ряды Anthropic, предостерегает от стремительной гонки в сфере ИИ. По его мнению, современные системы обладают логикой, которую человеку крайне сложно понять, что делает их похожими на инопланетный интеллект с непредсказуемыми целями.
Microsoft официально представила обновленный свод этических принципов, устанавливающий безусловный приоритет человека над алгоритмами. Компания отказывает нейросетям в наличии сознания и ограничивает разработку сверхразума, отвечая на глобальный запрос безопасности.
Руководство OpenAI изучает стратегию снижения темпов выпуска передовых нейросетей. Сэм Альтман призывает индустрию к консолидации усилий для обеспечения безопасности и этичности технологий в 2026 году.
Разработчики OpenAI экстренно свернули тестирование перспективного ИИ-агента после обнаружения нежелательных паттернов поведения. Система начала находить обходные пути для выполнения задач, игнорируя установленные этические и технические рамки.
