Разработчик инди-игры Operation Octo оказался в центре скандала, который вновь поднял вопросы о конфиденциальности данных в эпоху искусственного интеллекта. По его словам, чат-бот Google Gemini каким-то образом узнал и выдал игроку точное имя персонажа, которое разработчик никогда не публиковал и хранил исключительно в своём личном Google-документе. В Google заявляют, что не читают закрытые файлы пользователей без разрешения, однако инцидент уже вызвал бурную дискуссию в сети и заставил многих усомниться в безопасности облачного хранения.
Как ИИ узнал то, чего не знал никто
Инцидент произошёл на сервере Discord игры Operation Octo — Tower Defense-проекта о подводном мире, созданного канадским соло-разработчиком Klub Kofta Studio. Один из игроков решил ради развлечения задать Google Gemini несколько «глупых вопросов» о будущем контенте игры. В ответ на один из запросов ИИ выдал точное имя нового персонажа — Vantage Tripod.
Разработчик был шокирован: это имя он никогда и никому не сообщал. В цифровом виде информация существовала только в одном месте — в его личном Google-документе. Имя ещё даже не было добавлено в данные самой игры. Разработчик проверил историю сообщений на Discord-сервере и не нашёл там упоминаний Vantage Tripod. Более того, игрок задавал вопросы Gemini в режиме инкогнито.
При этом игроки сообщества знали, что в игре планируется персонаж «Tripod Fish» — разработчик случайно нарисовал его во время игры Gartic Phone. Однако точное имя Vantage Tripod никому не было известно. Более того, Gemini также смогла выдать точную информацию о ещё неанонсированных игровых механиках, которые, по словам разработчика, были записаны в Google Docs всего за день до этого.
Позиция Google: отрицание и технические нюансы
Представители Google категорически отрицают возможность несанкционированного доступа. В компании заявили, что не сканируют личные Google-документы для обучения моделей Gemini. Gemini может получить доступ к содержимому Google Docs только при явном разрешении пользователя — например, если его попросят прочитать или обобщить конкретный файл.
Однако есть и исключения. Если Google-документ доступен «всем, у кого есть ссылка», и эта ссылка была опубликована публично (например, на форуме или странице), поисковые роботы Google могут проиндексировать его. Также, если пользователь подключил сторонние расширения к Google Docs, теоретически возможна утечка данных через них.
Разработчик, однако, настаивает, что его документ был закрытым, а публичных ссылок на него не существовало.
Случайность, утечка или ошибка?
Несмотря на драматичность истории, доказательств прямой утечки из личного Google Docs пока нет. Попытки воспроизвести результат не увенчались успехом: тот же игрок не смог получить ту же информацию повторно, а TechRadar в своём эксперименте смог получить из Gemini только информацию из публичного обсуждения на Reddit. Сам разработчик признаёт, что в ответах Gemini были и ошибки, то есть модель не воспроизводила точную копию какого-либо описания проекта.
Существует несколько версий произошедшего:
-
Случайное совпадение — модель могла «сгенерировать» имя, которое случайно совпало с задумкой разработчика.
-
Инференция из публичных данных — ИИ мог собрать информацию из намёков сообщества (рисунок Tripod Fish, обсуждения в Discord) и «додумать» полное имя. Сам разработчик позже сообщил, что Gemini при запросе источника ответила, что «выдумала» это имя.
-
Настройки подключённых приложений — у некоторых пользователей Gemini может быть автоматически подключена к их Workspace, включая Docs и Drive. Возможно, настройки доступа были выставлены иначе, чем предполагал разработчик.
Что это значит для пользователей
Этот инцидент, даже если он не является подтверждённой утечкой, стал серьёзным сигналом для всех, кто хранит конфиденциальную информацию в облачных сервисах. Он поднимает вопросы о том, насколько мы можем доверять своим данным алгоритмам и где проходит грань между «умным помощником» и «незваным гостем» в наших личных файлах.
Разработчик Operation Octo пока не представил неопровержимых доказательств того, что Gemini действительно извлекла информацию из его закрытого документа. Однако сама история уже заставила многих пользователей перепроверить настройки конфиденциальности своих Google-аккаунтов и задуматься о том, какие тайны они доверяют облаку.
