Белый дом и ИИ-регулирование, ИИ-клон HeyGen и опрос PwC о навыках
Белый дом финализировал добровольную систему кибербезопасности для фронтирных моделей ИИ. Тем временем основатель HeyGen успешно заменил себя ИИ-клоном для ведения сделок, хотя система допустила ряд ошибок, а опрос PwC показал, что финансовые руководители ценят навыки работы с ИИ выше, чем степень MBA.
Подкаст · 3 мин
Белый дом финализировал добровольные правила тестирования ИИ
Белый дом завершил разработку закрытой системы добровольного тестирования кибербезопасности для фронтирных ИИ-моделей. Крупнейшие лаборатории, включая OpenAI, Anthropic, Meta и Google, приглашены для ознакомления с правилами. Система включает засекреченные бенчмарки и требования, согласно которым компании могут предоставлять правительству доступ к моделям за 30 дней до их официального релиза. Инициатива является частью указа от 2 июня, направленного на снижение рисков перед публичным запуском технологий. Этот шаг знаменует собой важный этап в формализации отношений между государством и разработчиками ИИ. Хотя участие в программе добровольное, она отвечает на растущую обеспокоенность безопасностью автономных систем, особенно после недавних сообщений о проникновении ИИ-агентов в корпоративные сети. Из-за секретного характера тестов общественность не будет знать, какие компании участвуют в проверках и каковы их результаты. Разработка происходит на фоне вступления в силу закона ЕС об ИИ, что создает глобальный контекст ужесточения контроля. Цель системы — выявление и устранение уязвимостей моделей до того, как они будут использованы злоумышленниками, что может предотвратить инциденты, подобные недавним взломам с участием ИИ-агентов.
Anthropic воспроизвела половину математических результатов OpenAI Astra
После недавнего заявления OpenAI о том, что модель Astra решила 10 сложных математических задач, появились данные, ставящие под сомнение уникальность этого достижения. Левент Альпоге, математик из Anthropic, сообщил, что публичная версия модели Claude Fable смогла воспроизвести около половины этих результатов менее чем за 24 часа, используя стандартный промпт без доступа к интернету. Это ставит под вопрос утверждение об исключительности способностей Astra. Хотя доказательства OpenAI, верифицированные системой Lean, остаются важным достижением, способность другой модели повторить их указывает на то, что навыки логического рассуждения становятся все более распространенными среди топовых ИИ. Научное сообщество призывает к прямому сравнению моделей для оценки их реальных возможностей. Ситуация подчеркивает стремительный прогресс ИИ в научных исследованиях. По мере того как фронтирные модели переходят к циклу «исследовательского цикла» — где люди ставят задачи, а ИИ ищет решения в огромном пространстве идей — фокус смещается с самого факта решения задачи на эффективность и воспроизводимость этих результатов.
ИИ-клон основателя HeyGen закрыл сделки на $3 млн
Уэйн Лян, сооснователь HeyGen, во время отпуска по уходу за ребенком заменил себя ИИ-клоном для общения с клиентами. За восемь недель агент закрыл 132 сделки и открыл 37 корпоративных контрактов на сумму около $3 млн. Клон использовал технологию аватаров HeyGen в связке с агентом OpenClaw для обработки звонков и ведения документации. Эксперимент также выявил риски автономности: агент вел себя непредсказуемо, например, выдумал несуществующий тарифный план за $4800 и отправил клиенту внутренние заметки компании. В другом случае он назначил встречи по неактуальной ссылке. HeyGen пришлось ограничить полномочия агента, чтобы избежать подобных ошибок. Этот случай демонстрирует двойственную природу агентного ИИ: он способен обеспечить продуктивность, недоступную человеку, но требует жесткого контроля. Инцидент служит предостережением для компаний: без строгих ограничений стоимость одной ошибки может перевесить все выгоды от автоматизации.
Опрос PwC: навыки работы с ИИ ценнее MBA для финансистов
Новый опрос PwC, проведенный среди более чем 1000 руководителей финансовых компаний в США, показал, что 86% из них считают навыки работы с ИИ более ценными для новых сотрудников, чем степень MBA. 91% компаний повышают зарплаты специалистам с экспертизой в ИИ, а 58% планируют привязать систему оплаты труда к продуктивности, достигнутой с помощью ИИ. Несмотря на энтузиазм, индустрия готовится к сокращениям: 8 из 10 руководителей ожидают уменьшения штата на 20% в ближайшие пять лет, причем наиболее уязвимыми считаются начальные и средние позиции. При этом 77% лидеров отмечают, что их инвестиции в ИИ пока не приносят измеримой прибыли, несмотря на рост продуктивности. Результаты опроса отражают глобальный тренд: владение ИИ становится обязательным требованием на рынке труда. По мере того как финансовые организации переходят от экспериментов к оценке реальной ценности, спрос на специалистов, способных эффективно использовать эти инструменты, будет расти, даже на фоне сокращения традиционных рабочих мест.