Midjourney може да забрани изображенията на Байдън и Тръмп по време на предстоящите избори

С изграждането на AI инструменти, които бързо могат да създават модифицирани изображения и видеоклипове, създаването на фалшиви изображения за разпространение на политическа дезинформация преди предстоящите президентски избори в САЩ става все по-лесно. Решението на Midjourney за това може да бъде да забрани изцяло политическите изображения, според Bloomberg. Изпълнителният директор Дейвид Холц е съобщил по време на чат сесия в Discord, че компанията е близо до забраната на изображения като тези на Байдън и Тръмп през следващите 12 месеца.

“Знам, че е забавно да правим снимки на Тръмп – аз правя снимки на Тръмп”, казал той на потребителите, които присъстваха на сесията. “Тръмп е естетически много интересен. Въпреки това, вероятно е по-добре да не го правим – по-добре е да се оттеглим малко по време на тези избори. Ще видим.” Както отбелязва Bloomberg, хората преди това са използвали AI на компанията, за да генерират deepfakes на Тръмп, който е арестуван.

В момента компанията вече има правила, които забраняват създаването на “заблуждаващи обществени фигури” и “представления на събития” с “потенциал да заблуждават”. Разбира се, дори ако Midjourney забрани изображенията на високопоставени политици, тя ще защитава само своята платформа от привличане на вниманието на критиците и от ставане на център на вниманието през този изборен сезон. Това няма да предотврати използването на AI инструменти в политическите кампании за дезинформация или разпространението на фалшива информация, предназначена да манипулира изборите като цяло.

Други технологични компании също предприеха стъпки, за да помогнат за предотвратяване на политическата дезинформация, или поне да помогнат за по-лесното й идентифициране. ChatGPT скоро ще започне да маркира изображения, създадени с помощта на DALL-E 3, докато Meta работи по разработването на технология, която може да открива и обозначава дали изображение, видеоклип или аудиоклип е генериран с помощта на AI.