Миллиардер, еще недавно называвший ИИ спасением, теперь говорит об оружии
Билл Гейтс дал интервью телеканалу NBC. Тема — искусственный интеллект. Прогноз, который он озвучил, звучит без обиняков: развитие технологии может привести к событиям, которые повлекут гибель миллиарда людей.
Основатель Microsoft назвал ИИ достаточно мощным, чтобы дела сложились именно так. По его словам, у человечества никогда еще не было оружия опаснее, чем сочетание злонамеренных людей и новейших ИИ-инструментов.
Вывод из этого Гейтс сделал прежний. Он снова высказался за ограничения в сфере использования технологии.
Как менялась его позиция
Еще недавно Гейтс говорил об ИИ совсем иначе. Он представлял его панацеей от голода, болезней и неграмотности. Потом признался, что сам поражен темпами развития технологии. Теперь в его публичных выступлениях ИИ фигурирует уже как источник угрозы.
В интервью The New York Times он называл технологию серьезной опасностью для человечества. Отдельно упоминал биологическое оружие — сценарий, при котором доступ к мощным инструментам получают люди с дурными намерениями.
А в разговоре с другими изданиями сравнивал появление ИИ с чем-то, не похожим ни на одну прежнюю технологию. По его словам, это так же уникально, как встреча с инопланетянином.
Что говорят другие
Оценки в отрасли расходятся. Руководитель направления стресс-тестирования согласованности ИИ в компании Anthropic Эван Хьюбингер заявлял, что вероятность уничтожения человечества искусственным интеллектом в ближайшие десять лет достигла десяти процентов.
Гейтс не призывает остановить разработку. Он настаивает на другом: компании, создающие такие системы, не могут сами себя регулировать. Контроль должен быть внешним. Это и есть его главный аргумент в пользу ограничений.
Конкретных механизмов надзора миллиардер не назвал. Официальной реакции крупнейших разработчиков ИИ на его слова не публиковалось.