Небольшая группа исследователей из Сямэньского университета выразила тревогу по поводу того, с какой легкостью злоумышленники теперь могут создавать поддельные изображения ИИ для использования в исследовательских проектах. Они опубликовали статью с изложением своих опасений в журнале Patterns.
Когда исследователи публикуют свои работы в авторитетных журналах, они часто включают фотографии, чтобы показать результаты своей работы. Но теперь целостность таких фотографий подвергается нападкам со стороны определенных лиц, которые хотят обойти стандартные протоколы исследований. Вместо того, чтобы создавать фотографии своей реальной работы, они могут создавать их с помощью приложений искусственного интеллекта. Исследователи предполагают, что создание поддельных фотографий таким образом может позволить злоумышленникам публиковать исследовательские работы, не проводя никаких реальных исследований.
Чтобы продемонстрировать легкость создания фальшивых исследовательских изображений , исследователи создали некоторые из них, используя генеративно-состязательную сеть (GAN), в которой две системы, одна генератор, другая дискриминатор, пытаются превзойти друг друга в создании желаемый образ. Предыдущие исследования показали, что этот подход можно использовать для создания изображений поразительно реалистичных человеческих лиц. В своей работе исследователи создали два типа изображений. К первому виду относится вестерн-блоттинг — метод визуализации, используемый для обнаружения белков в образце крови. Второй был изображений рака пищевода. Затем исследователи представили созданные ими изображения специалистам в области биомедицины — двое из трех не смогли отличить их от настоящих.
Исследователи отмечают, что, вероятно, можно создать алгоритмы, которые смогут обнаруживать такие подделки, но в лучшем случае это будет временное решение. Скорее всего, появятся новые технологии, которые смогут превзойти программное обеспечение для обнаружения и сделать его бесполезным. Исследователи также отмечают, что программное обеспечение GAN легкодоступно и просто в использовании, и поэтому, вероятно, уже использовалось в мошеннических исследованиях. Они предполагают, что решение лежит на организациях, которые публикуют исследовательские работы. Чтобы сохранить целостность, издатели должны предотвратить появление искусственно созданных изображений в работах, опубликованных в их журналах.
