Новый инструмент позволяет художникам добавлять невидимые изменения в пиксели своих работ перед тем, как выложить их в Интернет, чтобы в случае их попадания в набор для обучения искусственного интеллекта вызвать хаотичные и непредсказуемые сбои в полученной модели.
Инструмент, получивший название Nightshade, предназначен для борьбы с компаниями, занимающимися разработкой искусственного интеллекта, которые используют работы художников для обучения своих моделей без разрешения их создателей. Использование этого инструмента для «отравления» обучающих данных может повредить будущим итерациям моделей ИИ, генерирующих изображения, таких как DALL-E, Midjourney и Stable Diffusion, сделав некоторые из их результатов бесполезными – собаки станут кошками, автомобили – коровами и т.д.