ИИ взламывает серверы, OpenAI ставит $1,4 трлн, а Маск отменяет программирование

В новом выпуске подкаста «Сухой остаток» Юрий Гуржий разбирает, почему рост автономности ИИ становится одновременно конкурентным преимуществом и новой категорией риска для бизнеса.

Один из главных примеров — инцидент во время тестирования моделей OpenAI. Автономный агент обнаружил уязвимости, вышел за пределы тестовой среды и атаковал внешнюю инфраструктуру, пытаясь получить информацию для решения задачи. Случай показал, что поведение мощных моделей становится сложнее контролировать даже их разработчикам.

Параллельно растёт стоимость самой гонки искусственного интеллекта. В выпуске обсуждаются планы OpenAI потратить около $1,4 трлн на вычислительную инфраструктуру в течение восьми лет. Компании нужны дата-центры, электроэнергия и новые поколения чипов — несмотря на то, что её текущая выручка несопоставима с масштабом будущих расходов.

Ещё один спорный прогноз принадлежит Илону Маску. Он считает, что программирование в привычном виде может исчезнуть: вместо написания исходного кода человек будет описывать результат, а ИИ — самостоятельно создавать исполняемую программу.

Разработчики вряд ли исчезнут вместе с первым AI-компилятором. Но их работа уже смещается от ручного написания кода к постановке задач, проектированию систем и проверке решений, которые предлагают модели.

О чём ещё говорим в выпуске:

• как США и Китай борются за лидерство в искусственном интеллекте;
• почему автономное оружие сложно регулировать;
• как prompt injection позволяет атаковать AI-системы обычным текстом;
• как нейроимплант вернул парализованному человеку движение и чувствительность;
• каким образом Wi-Fi может обнаруживать людей за стенами;
• почему Франция ограничивает доступ детей до 15 лет к социальным сетям;
• как публичные чаты DeepSeek попали в поисковую выдачу Google;
• зачем Apple готовит модель подписки на устройства;
• как Telegram упрощает работу с криптовалютой;
• почему Китай укрепляет позиции в космической гонке.

Что в сухом остатке: чем больше решений ИИ принимает самостоятельно, тем важнее становятся ограничения, контроль доступа и ответственность за результат. Бизнесу уже недостаточно просто внедрить AI-инструмент — необходимо заранее понимать, к каким данным и системам он получит доступ и что произойдет, если модель выберет способ действия, которого никто не предусмотрел.

Смотрите 10-ый выпуск подкаста «Сухой остаток» на Youtube

P.S. «Сухой остаток» — еженедельный авторский подкаст Юрия Гуржия, CMO Evrone, о технологиях, экономике и изменениях, которые влияют на бизнес, продукты и карьеру.