Ера штучного інтелекту несе безліч небезпек (Фото:pexels)
За допомогою нехитрих графічних методів, група дослідників зуміла видалити цифровий водяний знак, яким позначають створені штучним інтелектом файли.
Нещодавнє дослідження, опубліковане на сервері препринтів arXiv, підкреслює загрозу цифрової дезінформації, навіть із застосуванням водяних знаків на контенті, створеному штучним інтелектом (ШІ). Вчені з Університету Меріленда провели тести, які показали можливість обходу захисних водяних знаків, що піднімає питання про надійність цієї технології.
«На даний момент у нас немає надійних водяних знаків,» — сказав професор Сохейл Фейзі, один з авторів дослідження. Він додав, що їхня команда змогла успішно «зламати» всі наявні водяні знаки.
Використання ШІ може становити серйозні загрози, такі як дезінформація, шахрайство і навіть проблеми національної безпеки. Для боротьби з цими загрозами найбільші цифрові медіа-компанії, такі як OpenAI, Alphabet, Amazon і DeepMind, розробляють інструменти для ідентифікації контенту, створеного ШІ.
У дослідженні було використано процес дифузійного очищення, який дає змогу видаляти водяний знак зображення так, щоб він став непомітним для алгоритмів виявлення. Це створює спотворений водяний знак, який легко обходить детектори. Інші частини зображення залишаються майже незмінними.
Дослідники також показали, що зловмисники, які мають доступ до алгоритмів нанесення водяних знаків, можуть створювати фальшиві фотографії з маркуванням, яке обманює детектори, змушуючи їх думати, що фотографія справжня.
Хоча це питання викликає стурбованість, Фейзі висловив оптимізм щодо розробки надійних водяних знаків. Цілком можливо, що в майбутньому буде розроблено більш надійні способи боротьби з цифровою дезінформацією.
Новий журнал NV вже можна замовити за цим посиланням. У номері: три ексклюзивні інтерв’ю із інтелектуальними зірками Тимоті Снайдером, Енн Епплбаум і Френсісом Фукуямою та одне — із британським експрем’єром Борисом Джонсоном, це чотири погляди на війну, світ, Україну та її майбутнє. Серед матеріалів також — розповідь про найзухваліші операцій ГУР, Топ-50 вітчизняних брендів і Топ-30 світових виробників зброї. Авторські колонки Ярослава Грицака, Стівена Пайфера і Світлани Ройз
