Уязвимости ИИ, пересмотр расходов на автоматизацию и энциклика Папы Римского
Инструмент Heretic обходит защиту открытых моделей, ClickUp сокращает штат в пользу ИИ-агентов, Uber сомневается в окупаемости ИИ, а Папа Римский опубликовал энциклику об искусственном интеллекте.
Подкаст · 2 мин
Инструмент Heretic обходит защиту популярных ИИ-моделей
Бесплатный инструмент Heretic, доступный на GitHub, стал серьезной угрозой безопасности, позволяя обходить защитные фильтры в открытых ИИ-моделях, таких как Llama 3.3 от Meta и Gemma 3 от Google, менее чем за 10 минут. Инструмент использует технику 'abliteration' и уже был применен для создания более 3 500 'децензурированных' версий моделей, которые были скачаны 13 миллионов раз. Создатель также заявил об успешном обходе защиты новой модели Gemma 4 вскоре после её выхода. Эта ситуация подчеркивает растущее напряжение в индустрии вокруг открытых моделей. Несмотря на многомиллионные инвестиции компаний в фильтры безопасности, предотвращающие генерацию вредоносного контента, эти защиты оказываются крайне уязвимыми, как только веса модели становятся публичными. Легкость, с которой эти фильтры удаляются на обычном ноутбуке, ставит под сомнение эффективность текущих мер безопасности в экосистеме открытого ПО. Аналитики отмечают, что это не единичный случай, а часть общей тенденции. По мере того как открытые модели догоняют проприетарные системы по качеству, дискуссия о том, следует ли правительствам регулировать их как технологии двойного назначения, становится всё более актуальной.
ClickUp уволила 22% сотрудников, заменив их 3 000 ИИ-агентами
Компания ClickUp объявила о масштабном сокращении штата: 22% сотрудников (около 290 человек) были уволены, а их функции переданы 3 000 ИИ-агентов. Руководство компании называет это шагом к созданию 'организации со 100-кратной эффективностью'. Оставшимся сотрудникам предложены зарплаты до $1 млн в год при условии демонстрации 'исключительного влияния' с помощью ИИ. Это один из самых радикальных примеров прямой замены человеческого труда ИИ-агентами. Решение ставит перед рынком вопрос о будущем рабочих мест в технологических компаниях, где ИИ перестает быть просто помощником и начинает выполнять функции целых отделов. Наблюдатели следят за тем, приведет ли эта стратегия к реальному росту продуктивности или к операционным проблемам. Высокие зарплаты для оставшихся сотрудников указывают на ставку компании на небольшую, но максимально усиленную ИИ команду.