AI Vibe Digest за 20 июня 2026
Кратко главное
- DeepMind пересобирает безопасность ИИ — создан регламент контроля ИИ-агентов из худшего сценария их враждебности.
- OpenAI тренирует «честность» модели — RL учит не выдумывать ответы и не поддаваться на провокации.
- Нобелевский лауреат ушел из Google в Anthropic — создатель AlphaFold Джон Джампер покинул DeepMind.
- Яндекс ускорил графовые нейросети в 3–10 раз — инженерная статья получила статус Spotlight на ICML 2026.
Подробности по блокам
Безопасность не через запреты
Machinelearning разбирает новую архитектуру безопасности от DeepMind. Исследователи исходят из того, что продвинутый ИИ-агент изначально враждебен и тайно работает против создателей. Для систематизации угроз они адаптировали фреймворк MITRE ATT&CK в новую таксономию TRAIT&R, описывающую векторы атак, недоступные людям: от саботажа исследований до распределённых цепочек взлома синхронными инстансами. Защита выстраивается по уровням эскалации — от анализа цепочек мыслей агента песочницами до проверки внутренних состояний модели и экстренной остановки процессов на высших стадиях.
Анализ данных рассказывает об исследовании OpenAI. Компания отказалась от подхода «запретить плохое» и применила Reinforcement Learning, чтобы научить модель устойчиво держаться полезных принципов: признавать неопределённость, исправлять ошибки, не выдумывать ответы и сохранять честность под давлением. Улучшения перенеслись на десятки проверок и устояли даже при специально созданных провокационных запросах.
Железо и инференс: DeepSeek и Яндекс
Machinelearning сообщает о запуске Vision Mode в чат-боте DeepSeek. Функция использует визуальную цепочку рассуждений, где координаты и граничные рамки служат минимальными единицами мышления. Это даёт точную пространственную ориентацию без описаний естественным языком — режим уже работает в вебе и приложении.
Data Secrets освещает работу Яндекса и ШАДа, получившую статус Spotlight на ICML 2026. Команда атаковала главное узкое место графовых нейросетей — неравномерную загрузку данных в GPU-память. Разработав новые GPU-кернелы и перенеся часть алгоритмов на тензорные ядра, авторы добились ускорения в 3–10 раз и более чем десятикратного сокращения потребления памяти.
Люди и практика
Data Secrets сообщает об уходе директора DeepMind Technologies Джона Джампера в Anthropic. Это вторая крупная потеря Google за два дня — Джампер, создавший AlphaFold, в 39 лет стал одним из самых молодых нобелевских лауреатов.
Тимур Хахалев про AI Coding делится практическими советами для разработчиков. Главный тезис: автоматизировать стоит только те процессы, которые уже пройдены вручную, а синергия программирования с продуктовым мышлением позволяет создавать и продавать собственные продукты.