Атомные станции, транспорт и «милость победителя»: зампред Совбеза написал про конец света
Зампред Совбеза России Дмитрий Медведев высказался об искусственном интеллекте и угрозе, которую тот несёт. Пост он назвал «Про ИИ и конец света». Опубликован в его Telegram-канале.
Медведев считает опасения обоснованными, но сомневается, что машина уничтожит человечество.
Что конкретно имеется в виду под ущербом? Медведев перечислил: уничтожение атомных электростанций, сбои в работе транспортных узлов, остановка крупных производств. Это не фантастика про восставших роботов. Это про инфраструктуру, которой управляют алгоритмы.
Медведев предлагает странам договориться о правилах использования ИИ, но уверен, что корпорации этого не допустят.
«Поэтому остается одно: рассчитывать на милость победителя. На гуманизм, который проявит наш любимый рукотворный умник. Авось пожалеет родителей», — написал Медведев.
Формулировка с иронией, но суть серьёзная. Регулирование ИИ упирается в интерес разработчиков, а не в отсутствие понимания рисков. Сами создатели систем, по его словам, об этих рисках знают.
Почему это важно именно сейчас
США, Китай и Европа наращивают вычислительные мощности: отставание в гонке ИИ никого не устраивает, поэтому пауза для выработки общих норм маловероятна.
Для России разговор об ИИ — это ещё и вопрос суверенитета технологий. Кто владеет моделями и чипами, тот задаёт правила. Через три-шесть месяцев дискуссия о международных нормах, скорее всего, никуда не денется. Но конкретных механизмов контроля пока не видно.
Медведев не первый, кто говорит о рисках. Однако его формулировка про «милость победителя» — это признание, что человечество, по сути, уже не контролирует процесс полностью.