Исследователи безопасности из стартапа Hacktron AI использовали Claude от Anthropic, чтобы получить доступ к внутренним системам OpenAI — от аккаунта сотрудника до закрытого репозитория кода, пишет TechCrunch.
Что произошло: сначала команда из трёх человек нашла уязвимость в изображениях на форуме поддержки OpenAI. Затем исследователи получили доступ к нескольким аккаунтам ChatGPT сотрудников компании, а через один из них добрались до внутренней среды разработки. Весь этот путь занял у специалистов меньше 72 часов.
Что было дальше: вместо того чтобы скачивать закрытый код, исследователи ограничились безобидным пул-реквестом с меткой авторства. Так они доказали, что доступ даёт возможность вносить изменения, не нанося вреда. О находке сообщили и сотрудникам OpenAI.
Реакция OpenAI: компания устранила проблему примерно за 14 часов, Discourse закрыла уязвимость с изображениями позже. По условиям программы поиска уязвимостей через сервис Bugcrowd исследователи получили вознаграждение в 6 500 долларов.