Нейросеть совсем обезумела, она обучилась созданию компромата на людей, пользующихся социальными сетями.
Исследователями новостного и аналитического интернет-издания Arstechnica был проведен эксперимент. Ими был создан вымышленный пользователь Джон, который трудится учителем начальных классов. И взяв за основу его обычный фотоконтент сгенерировали на несуществующего юзера реальный компромат — от пребывания учителя полуголым в классе, его фотографирования с обнаженной порноактрисой и облачения в клоунский костюм до участия в экстремистской группировке и отбывания срока в тюремном учреждении.
Специалистами была использована нейросеть Stable Diffusion и метод обучения Dreambooth, а обучение ИИ заняло от силы 1 час и всё это абсолютно бесплатно.