Додаток Lensa, який використовує алгоритми штучного інтелекту для автоматичного редагування фото, опинився в центрі скандалу — ШІ звинуватили у сексуалізації жінок та використанні фотографій без згоди їх власників.

Зауважимо, що Lensa належить компанії Prisma Labs, зареєстрованій у Каліфорнії. Втім, її засновники — росіяни Андрій Усольцев і Олексій Моїсеєнков, тому конфіденційність додатка є під питанням, навіть без гучних скандалів.

За словами деяких користувачів, нейромережа створює потенційну можливість сексуальної експлуатації та переслідування, адже ШІ малює жінок оголеними, навіть без їх згоди. Як і в інших додатках для редагування фото, користувачі можуть завантажувати будь-чиї фотографії та редагувати їх як завгодно. Часто додаток створює жіночі зображення оголеними та в позах із сексуальним підтекстом.

Lensa використовує моделі для безкоштовної системи машинного навчання під назвою Stable Diffusion. Моделі навчали на мільярдах комбінацій зображень з інтернету. Додаток відправляє завантажені користувачем фотографії у своє хмарне сховище, запускає модель, створену спеціально для кожного користувача, і видає новий портрет.

Хоча представники Prisma Labs неодноразово наголошували, що компанія не передає особисті фотографії третім сторонам, користувачі турбуються про свою безпеку. Адже правила конфіденційності, з якими має погодитися кожен перед використанням додатка, «залишають компанії можливість ділитися інформацією з іншими». Як заявив, один із засновників Lensa Андрій Усольцев, компанія зберігає «мінімальну кількість» даних із фотографій користувачів, втім які саме дані збираються Усольцев не пояснив.

За словами спеціалістів з ШІ, колекція зображень Lensa, на якій навчається штучний інтелект, містить тисячі фотографій людей, які не давали згоду на використання їх зображень. Як з’ясували журналісти видання Forbes, одна художниця навіть виявила в базі даних Lensa фотографії зі своєї особистої медичної карти.