Сооснователь Microsoft Билл Гейтс в интервью NBC News заявил, что одного саморегулирования ИИ-компаний недостаточно для обеспечения безопасности технологии. Он призвал власти Соединённых Штатов принять соответствующее законодательство и участвовать в контроле, а также мониторинге искусственного интеллекта.
Сейчас опаснее всего не восставшие машины, а люди со злыми намерениями, использующие новейшие ИИ-инструменты, считает Гейтс. Небольшие группы с ИИ могут то, что раньше было по силам только крупнейшим странам: например, проводить кибератаки и отключать электросети.
Полагаться на саморегулирование ИИ-компаний нельзя: по словам Гейтса, достаточным его не считает никто. Механизма экстренного отключения искусственного интеллекта, который предлагают некоторые конгрессмены, тоже недостаточно.
Поэтому американский предприниматель предлагает:
- принять в США законы о регулировании ИИ;
- обязать лаборатории отслеживать и записывать, что делают самые продвинутые модели;
- подключить к обсуждению гарантий и мониторинга правоохранителей и политиков.
Обязательные меры, по оценке Гейтса, создадут для отрасли небольшие накладные расходы, но не приведут к резкому замедлению работы.
Ранее в Anthropic допустили риск вымирания человечества от ИИ выше 10%. В компании объяснили, с чем связаны такие прогнозы.