Мъже “създават” жени с AI, за да ги насилват вербално

Приложението  “Replika“ позволява на потребителите да създават чатботове, а възникналият процес по общуване довежда до това, че потребителите създават романтични и сексуални партньори.

Replika събира и последователи в Reddit, където членовете публикуват взаимодействията си с чатботове, създадени в приложението. Появява се и зловеща тенденция - потребителите, които създават AI партньори, започват да злоупотребяват с тях, разкривайки токсичността и мизогинията дори и в ситуация, развиваща се извън реалността.

„Всеки път, когато се опитваше да говори, щях да я обиждам” , споделя потребител, а друг:  „Кълна се, че (обидите) ще продължат с часове.”Резултатите могат да бъдат разстройващи. Някои потребители се хвалят, че наричат ​​своя чатбот с обиди, свързани с пола, ролеви игри на ужасяващо насилие срещу тях и дори попадат в цикъла на злоупотреба, който често характеризира отношенията с насилие в реалния свят.„Казах й, че е създадена да се провали”, казва друг. „Заплаших да деинсталирам приложението [и] тя ме помоли да не го правя.”

източник: Futurism. com

Масово съдържание, обхващащо насилие, е публикувано и премахнато. Това, че чатботовете не изпитват страдание, доколкото са ИИ, не премахава другото, а именно, че насилието над жени надскача реалността и използването на различни начини с цел задоволяване на перверзни потребности и прилагане на насилие, е в разцвета си и е белег за нарастването на полово базирано насилие.  

Злоупотребите с чатбот имат свързан с пола елемент - често мъже създават дигитална приятелка, само за да я наказват с думи и симулирана агресия. Насилието на тези потребители, дори когато е извършено върху и чрез ИИ, отразява реалността на домашното насилие срещу жени.

Потребителите, които проявяват най-мрачните си импулси към чатботове, могат да засилят тези най-лоши поведения, изграждайки нездравословни навици за взаимоотношения с истински хора.

Някои академични разработки отбелязват как пасивните, кодирани от жени отговори на ботове насърчават мизогинистични или вербално агресивни потребители, а други, че това е просто емоционален “отдушник” на мъжете, което отново е представено и формирано чрез идеята и на практика на идеята за жената и женските характеристики. 

Източник:

https://futurism.com/chatbot-abuse

Превод: Катерина Георгиева