Водяные знаки Anthropic, $1,1 млрд для River AI и Grok Bot
Anthropic внедряет невидимые водяные знаки в Claude, исследователи научились извлекать скрытые рассуждения моделей, а River AI привлекла $1,1 млрд. Кроме того, xAI представила Grok Bot для автономной работы агентов.
Подкаст · 3 мин
Anthropic добавляет невидимые водяные знаки в Claude
Anthropic начала внедрение невидимых водяных меток для текста, кода и файлов, создаваемых моделями Claude. Это решение соответствует стандартам прозрачности, включая требования Закона ЕС об ИИ, и позволяет идентифицировать контент, созданный ИИ, даже после копирования. Файлы также будут использовать стандарт C2PA для подтверждения происхождения. Хотя метки призваны указывать на то, что контент был «обработан Claude», а не полностью создан им, это решение вызвало дискуссии о приватности. Все модели, выпущенные после 2 августа, оснащены этой технологией, а старые версии проходят процесс дооснащения.
Исследователи извлекли скрытые рассуждения из фронтирных моделей
Исследователи обнаружили способ извлечения скрытых цепочек рассуждений из моделей Claude, ChatGPT и Gemini. Оказалось, что зашифрованные блоки рассуждений, которые обычно скрыты от пользователя, можно воспроизвести в менее мощных «родственных» моделях того же разработчика. Используя специальные промпты для обхода ограничений, исследователи смогли заставить эти модели выводить скрытые данные в читаемом виде без необходимости кражи ключей шифрования. В ходе анализа 315 320 блоков были обнаружены 367 фрагментов персональных данных и 182 учетные записи, включая пароли и API-ключи. Разработчики уже обновили свои системы для устранения этой уязвимости.
River AI привлекла $1,1 млрд для создания персонального ИИ
Стартап River AI, основанный бывшим соучредителем xAI Игорем Бабушкиным, привлек $1,1 млрд инвестиций. Двухмесячная компания фокусируется на создании открытого ИИ, который обучается, настраивается и контролируется самим пользователем, а не крупными корпорациями. Бабушкин, ранее работавший в OpenAI, Tesla и Google, заявил, что цель проекта — создание высоконастраиваемых помощников, работающих на личном оборудовании пользователя и доступных на всех его устройствах. Компания утверждает, что их API позволяет бизнесу владеть собственными моделями и сокращать время обучения.
Операционный директор OpenAI Брэд Лайткэп покидает компанию
Операционный директор OpenAI Брэд Лайткэп уходит из компании, чтобы заняться новыми проектами. Лайткэп отметил, что в текущей фазе развития искусственного интеллекта миру предстоит решить ряд важных задач.
xAI и Cursor представили Grok Bot
xAI и Cursor выпустили бета-версию Grok Bot — приложения, превращающего ИИ-агентов в полноценных коллег. Агенты работают на базе постоянных облачных компьютеров, что позволяет им координировать действия в групповых чатах, взаимодействовать с повседневными приложениями и обучаться на рабочих процессах. Система способна выполнять задачи в режиме 24/7 без необходимости держать компьютер включенным. Бета-версия доступна для пользователей iPhone, Mac, Windows и Linux с подписками SuperGrok Heavy и Cursor, в будущем планируется расширение доступа.
Релиз LTX-2.5 для генерации видео
Компания LTX представила LTX-2.5 — модель с открытыми весами для генерации видео с высоким качеством (4K HDR) и встроенным звуком. Модель оптимизирована для запуска и дообучения на собственном оборудовании пользователей. Для организаций с годовой выручкой менее $10 млн использование модели бесплатно, для остальных доступ через API стоит от $0,09 в секунду. Релиз нацелен на конкуренцию с существующими видеомоделями за счет высокой скорости и качества генерации.