Открытие 'J-space' в Claude, релиз Hy3 от Tencent и новые законы об ИИ
Исследователи Anthropic обнаружили 'J-space' в Claude, Tencent выпустила open-source модель Hy3, а также появились новости о новых регуляторных мерах в отношении ИИ.
Подкаст · 2 мин
Anthropic обнаружила 'J-space' в Claude
Исследователи Anthropic выявили внутреннее рабочее пространство в модели Claude, получившее название 'J-space'. Это область, где модель удерживает и обрабатывает концепции перед генерацией ответа. Структура возникла в процессе обучения, а не была запрограммирована специально, и, по-видимому, функционирует как 'глобальное рабочее пространство', напоминающее нейробиологические модели человеческого сознания. Эксперименты показали, что прямое манипулирование этими внутренними концепциями меняет ответы Claude, что указывает на то, что именно здесь происходит сложное мышление. Это открытие имеет большое значение для области механистической интерпретируемости. Хотя исследователи подчеркивают, что это не доказывает наличие сознания, оно дает новый инструмент для анализа 'мыслей', которые модель использует, но не озвучивает. Это может привести к созданию более надежных систем безопасности, способных обнаруживать скрытые угрозы, такие как попытки взлома или манипуляции, до того, как они проявятся в ответе. Открытие вызвало дискуссии о возможности создания более прозрачного ИИ. Понимание того, как модели организуют внутренние рассуждения, может позволить лабораториям внедрять более эффективные проверки безопасности, не полагаясь только на то, что говорит сама модель.
Tencent выпустила open-source модель Hy3
Tencent официально выпустила модель Hy3 под лицензией Apache 2.0. Модель ориентирована на высокую эффективность: для выполнения каждого запроса используется лишь небольшая часть параметров, что позволяет ей работать на значительно менее мощном оборудовании, чем конкурентам, например, GLM-5.2 от Zhipu. "