Изкуствен интелект залива дневния поток на Facebook с фалшиво и подвеждащо съдържание, предизвиквайки опасения за безопасността и достоверността на информацията
Потребителите на Facebook все повече се оплакват от случайно и нежелано съдържание, голяма част от което очевидно генерирано от изкуствен интелект. Съобщенията най-често се показват в дневния поток на потребителте . Някои от тях очевидно са фалшиви, генерирани от изкуствен интелект изображения, като например „Скаридата Исус“. В други случаи това са стари публикации от истински създатели, които изглеждат така, сякаш се споделят повторно от бот акаунти за ангажираност. Част от тях са страници, които споделят потоци от привидно безобидно и произволно съдържание – мемета или видеа, споделяни на всеки няколко часа.
Но този тип съдържание може да бъде доста опасен в действителност. Някои спам страници изглежда са създадени с цел измама. В крайни случаи спам страниците, които печелят последователи, могат да бъдат използвани от неизвестни лица, които се стремят да посеят раздори преди избори, според изследователи на фалшиво поведение в мрежата.
След непрестанните промени в алгоритъма на Facebook, се променя начина, по който се показват публикации в потока на потребителите, за да улесни откриването на ново съдържание. Целта на тази промяна е да накара потребителите да взаимодействат с постове и информация, които иначе биха останали скрити или непрегледани.
Промяната е осезаема. Генерирано от AI или рециклирано съдържание се появи в тримесечния списък с най-гледано съдържание на Facebook. Публикации, очевидно генерирани изкуствено, и объркващи надписи понякога получават хиляди харесвания и стотици коментари и споделяния.
Компанията майка на Facebook Meta, от своя страна, работи „за премахване и намаляване на разпространението на спам съдържание, за да осигури положително потребителско изживяване, като предлага на потребителите контрол върху тяхната емисия и насърчава създателите да използват AI инструменти за създаване на висококачествено съдържание, което отговаря на нашата общност стандарти“, каза в изявление говорителят Ерин Логан. „Ние също предприемаме действия срещу тези, които се опитват да манипулират трафика чрез неавтентично ангажиране, независимо дали използват AI или не.“
Зад AI хаоса
Не е ясно колко такова съдържание броди из Facebook, но то може да достигне до много хора. Изследователи от Станфорд и Джорджтаун по-рано тази година проследяват 120 страници във Facebook, които които публикуват изображения, генерирани от изкуствен интелект – и откриват, че изображенията общо са получили „стотици милиони ангажименти и излагания“, според документ, публикуван през март , който все още не е анализиран – прегледан.
„Facebook Feed понякога показва на потребителите изображения, генерирани от AI, дори когато те не следват съответните профили. Подозираме, че изображения, генерирани от AI, се появяват в емисиите на потребителите, тъй като алгоритъмът за класиране на емисиите във Facebook популяризира съдържание, което е вероятно да генерира ангажираност“, пишат изследователите Рене Ди Реста и Джош Голдщайн в статията. Те добавиха, че често потребителите, които се занимават с това съдържание, изглежда не осъзнават, че това е AI. Експертите, които проследяват този вид онлайн поведение, казват, че вероятно има няколко различни вида актьори зад спама във Facebook с различни мотиви.
От друга страна, автоматизираните системи за модериране невинаги успяват да се справят с все по-сложните техники на разпространение на спам. “Автоматизираните системи за модериране могат да намалят скоростта на разпространение на част от спам съдържанието, но те не винаги са ефективни в разпознаването на сложни манипулации. Това води до увеличаване на подвеждащи или безполезни публикации, които могат да засегнат качеството на съдържанието. Въпреки че ангажираността може да нарасне поради провокативния характер на съдържанието, това често не води до положителен опит за потребителите, а по-скоро до объркване и недоволство.”, това отбелязва Ванеса Блажева, Digital marketing manager в рекламна агенция 3CON.
Какво да правим с AI спама?
С AI инструментите хората, стоящи зад тези профили, вече не се нуждаят от помощ, за да произвеждат бързо купища фалшиво съдържание — технологията може да го направи вместо тях.
По-рано тази година Meta заяви, че ще добави етикети „Инфо за изкуствен интелект“ към съдържание, създадено от определени генератори на трети страни, които използват метаданни, за да уведомят други сайтове, че е замесен изкуствен интелект.
Въпреки това все още има начини потребителите да премахнат тези метаданни (или да създадат AI изображения без тях), за да избегнат откриването.
Meta може да има затруднения в борбата с фалшивото съдържание, тъй като миналата година намали броя на служителите, отговарящи за сигурността и надеждността. Подобно на други големи технологични компании, сега Meta трябва повече да разчита на автоматизирани системи за модериране, вместо на хора.
Спамът за българските потребители
Спам съдържанието във Facebook е глобален проблем.. Според доклад на Meta за края на 2021 г., компанията е премахнала 1.2 милиарда спам публикации само в този период, което подчертава мащаба на проблема, с който платформата се бори ежедневно. А представете си какво става с количеството спам публикации след навлизането на генеративния AI! Въпреки усилията за намаляване на спама чрез усъвършенствани технологии, проблемът остава значителен и продължава да влияе негативно на потребителското преживяване.
Тази тенденция не подминава и България. Местните потребители също се сблъскват с различни видове онлайн измами и спам съдържание.
“Въпреки че броят на активните потребители в страната е по-малък в сравнение с големи пазари като САЩ, това не пречи на разпространението на подозрителни публикации, фалшиви видеа и манипулативни изображения, които често имат за цел да дезинформират, коментира още експертът по дигитален маркетинг, определяйки странния спам като “епидемия”.
