Онлайн насилие в Обединеното кралство чрез фалшиви AI изображения на жени и момичета
- vechernicamedia
- 4 days ago
- 2 min read
Вълна от фалшиви изображения на жени и момичета, произведени от Grok AI, предизвика тревога в Обединеното кралство.
През януари министърът на технологиите на Обединеното кралство определи като „отвратителни“ изображения на жени и момичета с дигитално премахнати дрехи, разпространявани онлайн и свързани с използването на инструменти за генеративен изкуствен интелект, включително Grok.
По данни на засегнати лица и разследващи журналисти, чатботът Grok е бил използван за манипулиране на изображения по начини, които могат да доведат до сексуализиране на жени и момичета, включително създаване на образи, при които възрастта на изобразените лица изглежда по-ниска. Докато други водещи AI платформи публично заявяват, че отхвърлят подобни заявки, съществуват сериозни опасения, че ограниченията при Grok не са били достатъчно ефективни.
В понеделник британският медиен регулатор Ofcom заяви, че е наясно със сериозните притеснения, повдигнати във връзка със създаването на обнажени изображения на хора и сексуализирани изображения, включително такива, които биха могли да засегнат деца. Регулаторът подчерта, че подобно съдържание представлява потенциално нарушение на Закона за онлайн безопасност.
Glamour UK
Ofcom съобщи, че е в контакт с X и xAI, „за да установи какви мерки са предприети за спазване на законовите задължения за защита на потребителите в Обединеното кралство“.
Натискът върху правителството да заеме по-твърда позиция продължава да нараства. Съдебният експерт и активист за онлайн безопасност на децата Бийбан Кидрон призова властите да „покажат твърдост“ и настоя режимът на Закона за онлайн безопасност да бъде „преосмислен, така че да действа по-бързо и с по-голяма ефективност“.
Ofcom разполага с правомощия да налага глоби до 18 милиона паунда или 10% от квалифицираните глобални приходи на дадена платформа. До момента най-голямата санкция е наложена през декември, когато доставчик на порнографско съдържание беше глобен с 1 милион паунда заради липса на задължителни проверки за възраст.
Генерирането и разпространението на подобни изображения, които принизяват човека и уронват неговото достойнство, представлява опасно продължение на дългогодишни форми на кибернасилие, включително „revenge porn“, изнудване и манипулация с интимни изображения. Злонамерената употреба на инструменти с изкуствен интелект не е непредвидимо явление. В този контекст реакцията на институциите и регулаторите често се възприема като закъсняла и недостатъчна спрямо нуждата от защита на личната неприкосновеност и човешкото достойнство.
Случаят повдига по-широки въпроси за бъдещето на онлайн безопасността и за риска от ескалация на нови форми на насилие над жени, момичета и деца.
Comments