Сценарии безопасности Сэма Альтмана, запуск Arda с оценкой $1.5 млрд и ИИ-выручка SpaceX
В выпуске: три сценария ИИ-безопасности от Сэма Альтмана, запуск стартапа Arda, финансовые успехи ИИ-подразделения SpaceX и законопроект Anthropic по безопасности моделей.
Подкаст · 4 мин
Сэм Альтман описал три сценария будущего ИИ
CEO OpenAI Сэм Альтман представил сотрудникам три возможных сценария развития ИИ-безопасности. Среди них: создание глобального надзорного органа по аналогии с МАГАТЭ, «план Демиса» (в честь Демиса Хассабиса из DeepMind) по объединению ведущих лабораторий в одну структуру, или «ужасный» сценарий, при котором одна компания вырывается вперед, используя ИИ для захвата вычислительных мощностей. Альтман подчеркнул, что OpenAI должна выбрать путь в течение года, назвав этот процесс «pacing 2.0», который должен включать ограничения скорости для самообучающихся систем.
Стартап Arda бывшего главы исследований OpenAI оценен в $1.5 млрд
Боб Макгрю, бывший директор по исследованиям OpenAI, представил стартап Arda, занимающийся автоматизацией настройки производственных линий. Компания привлекла $160 млн в раунде серии А при оценке в $1.5 млрд. Arda планирует использовать ИИ для создания планов сборки на основе проектных файлов, что, по словам создателей, поможет инженерам так же, как инструменты кодинга помогают программистам. Первым клиентом стала оборонная компания Anduril, которая сообщила о сокращении времени на создание инструкций по сборке с 10 часов до 15 минут.
ИИ-подразделение SpaceX принесло $7.5 млрд выручки
SpaceX сообщила, что ее новое подразделение «Super Intelligence» принесло $7.5 млрд выручки в третьем квартале, что составляет около половины от общего дохода компании в $14.6 млрд. Подразделение включает чат-бот Grok, инструмент для кодинга Cursor и бизнес «neocloud» по предоставлению вычислительных мощностей. Капитальные затраты компании за квартал составили $19.6 млрд, в основном направленные на развитие дата-центров и ракет Starship.
OpenAI приобретает Orchestra Bio
OpenAI купила стартап Orchestra Bio, чьи ИИ-агенты занимаются отслеживанием и мониторингом клинических исследований. Технология будет интегрирована в научные инструменты Rosalind для выявления задержек и рисков в фармацевтических программах.
Otter.ai привлекла $320 млн
Сервис Otter.ai привлек $320 млн от фонда General Catalyst. Финансирование привязано к показателям возврата маркетинговых инвестиций, а не к продаже акций, что позволит компании продолжить масштабирование платформы для анализа встреч.
Anthropic предложила законопроект по безопасности ИИ
Anthropic подготовила проект федерального закона, который позволит Министерству торговли запрашивать судебный запрет на выпуск моделей, если они представляют риск гибели 50 и более человек или ущерба на сумму от $1 млрд. Инициатива направлена на создание регуляторных рамок для контроля за передовыми ИИ-системами.
Claude от Anthropic спроектировал белки против яда скорпиона
Anthropic совместно с Citrini Research опубликовала исследование, в котором ИИ Claude спроектировал белки для нейтрализации токсинов скорпиона. Из 318 484 вариантов, предложенных моделью, 211 были протестированы в лабораториях, и 17 из них успешно связались с мишенями. Хотя универсальное противоядие пока не создано, эксперимент подтверждает эффективность ИИ в поиске новых лекарств.
Уязвимость в приложении Meta Muse сделала чаты публичными
Фирма Claroc обнаружила, что общие чаты из приложения Meta Muse можно было найти через поисковики по публичным DNS-записям без наличия ссылки. Проблема заключалась в структуре URL, содержащей заголовки чатов. Meta временно приостановила функцию обмена чатами для расследования инцидента.
ChatGPT добавил защиту чатов PIN-кодом
OpenAI внедрила функцию защиты конфиденциальных чатов с помощью PIN-кода или Face ID. Такие чаты хранятся отдельно от обычных диалогов, обеспечивая дополнительный уровень безопасности для чувствительных данных.
DeepSeek открыла код DeepInfer
DeepSeek опубликовала исходный код DeepInfer — движка, на котором работает модель V4.1-Flash. Релиз включает поддержку чипов Huawei, что позволяет компаниям развертывать модель без использования оборудования Nvidia.
Skyfall AI представила SKY-001
Компания Skyfall AI выпустила модель SKY-001 для проектирования 3D-деталей и зданий. Разработчики заявляют, что система работает значительно быстрее и дешевле существующих аналогов.
Zoom анонсировала детектор дипфейков
Zoom представила функцию обнаружения дипфейков, которая появится в декабре. Система анализирует видео и аудио в реальном времени на предмет изменений и выводит индикатор уверенности для пользователя.
Spotify удалила 50 млн «мусорных» треков
Spotify удалила из рекомендаций более 50 млн треков, классифицированных как спам или «мусорный» контент. Платформа также ограничила продвижение ИИ-артистов, чтобы сфокусироваться на поддержке человеческого творчества.
Radical Numerics заявила о разрешении FDA на вирус, созданный ИИ
Компания Radical Numerics сообщила, что FDA одобрило использование вируса, спроектированного их ИИ Omnii-1, для лечения пациента с инфекцией, устойчивой к стандартной терапии.
Тор Граепель запустил Metis Reasoning
Бывший исследователь DeepMind Тор Граепель основал стартап Metis Reasoning. Компания применяет методы, подобные AlphaGo, чтобы научить чат-ботов проверять свои ответы на соответствие фактам.