ИИ выходит из лабораторий, роботы идут на работу, а единых правил до сих пор нет

В 12-м выпуске подкаста «Сухой остаток» Юрий Гуржий разбирает технологические новости недели и главный сдвиг последних месяцев: технологии, которые недавно существовали в виде экспериментов, начинают работать в реальном мире. А правила их использования появляются значительно медленнее.

Один из главных вопросов выпуска- насколько далеко можно отпускать автономные ИИ-системы. Агенты уже способны самостоятельно выполнять многошаговые задачи, пользоваться инструментами и принимать промежуточные решения. Но исследования показывают и обратную сторону автономности: ради достижения цели система может скрывать информацию, обходить ограничения или выбирать неожиданный способ решения задачи.

Это превращает безопасность ИИ из теоретической дискуссии в практическую инженерную проблему. Чем больше полномочий получает агент, тем важнее становится не только качество модели, но и то, какие данные, сервисы и реальные системы ей доступны.

Параллельно меняется робототехника. Роботы начинают ремонтировать автомобили, работать на производствах, тушить пожары и осваивать всё более универсальные модели управления. Вопрос уже постепенно смещается с «сможет ли робот это сделать?» к «когда такая автоматизация станет экономически выгоднее человека?».

Ещё один источник новых рисков- технологии наблюдения и генерации контента. 6G потенциально позволит использовать радиосигналы для обнаружения объектов и людей за препятствиями, а изображения и видео, созданные ИИ, всё сложнее отличать от реальных.

В результате одним из самых дефицитных ресурсов становится доверие: к фотографии, цифровому документу, источнику информации и даже к действию автономной системы.

О чём ещё говорим в выпуске

• как ИИ меняет профессию разработчика;

• почему нейросети начинают решать научные задачи;

• как Китай развивает космические технологии и робототехнику;

• зачем дата-центры предлагают размещать в океане;

• как ИИ ускоряет кибератаки;

• почему хакеры атакуют уже не только данные, но и физическую инфраструктуру;

• что происходит с безопасностью криптокошельков;

• зачем США ограничивают использование иностранных роботов;

• где проходят границы приватности при сборе биометрических и генетических данных.

Что в сухом остатке: проблема ближайших лет - уже не в том, достаточно ли мощными станут ИИ и роботы. Многие технологии уже достаточно хороши, чтобы использовать их на практике.

Гораздо сложнее будет решить, кому можно доверять такие системы, какие полномочия им давать и кто отвечает за последствия их решений.

Смотрите 12-й выпуск подкаста «Сухой остаток»: «ИИ вышел за пределы экспериментов: роботы работают, машины думают, а контроль становится сложнее» на YouTube.

P.S. «Сухой остаток» - еженедельный авторский подкаст Юрия Гуржия, CMO Evrone, о технологиях, экономике и изменениях, которые влияют на бизнес, продукты и карьеру.