Кой е в основата?
Неверни твърдения, че президентът Джо Байдън е заспал по време на минута мълчание за жертвите на горския пожар в Мауи. Теория на конспирацията, че последният скок на случаите на Covid-19 е организиран от Демократическата партия преди изборите. Некролог за починал играч от НБА, който го описва като „безполезен“. Това не е научнофантастичен филм.
Тези неверни и странни истории не се появяват в някой отдалечен ъгъл на интернет – те се публикуват от Microsoft. Началната страница на компанията, известна също като MSN.com и Microsoft Start, остава един от най-търсените уебсайтове в света и място, където милиони американци получават своите новини всеки ден.
Според CNN, решението на Microsoft все повече да разчита на използването на автоматизация и изкуствен интелект вместо на човешки редактори, за да подготвя началната си страница, изглежда стои зад неотдавнашното увеличаване на сайта на фалшиви и странни истории, хора, запознати с начина, по който работи сайтът, казаха пред CNN.
Сайтът, който се предлага предварително зареден като начална страница по подразбиране на устройства, работещи със софтуер на Microsoft, включително в най-новия браузър на Microsoft „Edge“, наследник на браузъра Internet Explorer на компанията, нае повече от 800 редактора през 2018 г., за да помогне при избора и подготвянето на новини истории, показани на милиони читатели по целия свят.
Но през последните години Microsoft уволни редактори, на някои от които беше казано, че са заменени от „автоматизация“, което те разбират като AI.
Ранната инвестиция на Microsoft в OpenAI – създателите на оживеното приложение ChatGPT – го постави в челните редици на обещаващата и потенциално опасна AI революция, въпреки че президентът на технологичния гигант изнесе публични лекции за отговорното използване на технологията.Обратна връзка за реклама
Но очевидната роля на изкуствения интелект в неотдавнашното разпространение на фалшиви истории от Microsoft повдига въпроси относно публичното възприемане от компанията на зараждащата се технология и за журналистическата индустрия като цяло.
Пазителят
Притесненията и напрежението относно използването на AI от Microsoft в новинарското му съдържание се развихриха във вторник, когато британският вестник The Guardian обвини компанията, че е навредила на репутацията на вестника, след като публикува статия от изданието на своя сайт.
За да захрани своя силно трафикиран новинарски портал, Microsoft създаде лицензионни споразумения с големи новинарски организации по целия свят, включително The Guardian и CNN, които позволяват на технологичния гигант да публикува отново техните статии в замяна на дял от рекламните приходи.
Миналата седмица The Guardian публикува статия за Лили Джеймс, 21-годишна жена, която беше намерена мъртва със сериозни наранявания на главата в училище в Сидни, Австралия.
Убийството на Джеймс води до изблик на скръб и предизвика национален разговор в Австралия за насилието срещу жени.
Но когато MSN публикува отново историята на The Guardian, тя я придружи с анкета, генерирана от AI, която пита читателите: „Каква според вас е причината за смъртта на жената?“ И изброи три варианта: убийство, инцидент или самоубийство.
Анкетата предизвика критики от читателите на Microsoft, „Това трябва да е най-жалката, отвратителна анкета, която някога съм виждал“, пише един човек.
Анна Бейтсън, главен изпълнителен директор на Guardian Media Group, каза в остро формулирано писмо до Microsoft и получено от CNN, че автоматично генерираната анкета е „силно обезпокоително“ приложение на AI технологията на компанията и изисква Microsoft да поеме пълна отговорност.
„Не само, че този вид приложение е потенциално тревожно за семейството на лицето, което е обект на историята, то също е дълбоко вредно за трудно спечелената репутация на Guardian за надеждна, чувствителна журналистика и за репутацията на отделните журналисти. който е написал оригиналната история“, пише Бейтсън в писмо във вторник до президента на Microsoft Брад Смит.
Бейтсън каза, че използването на генерираната от AI анкета от Microsoft заедно със статията е „точно такъв случай, за който сме предупреждавали във връзка с новините“ и е „ключова причина, поради която преди това поискахме от вашите екипи, че не искаме Microsoft експериментални genAI технологии, прилагани в журналистиката, лицензирани от Guardian.“
Говорител на Microsoft каза, че компанията деактивира всички анкети за новинарски статии и каза, че компанията „разследва причината за неподходящото съдържание. Анкета не трябваше да се появява заедно със статия от такова естество и ние предприемаме стъпки, за да предотвратим повторната поява на този вид грешка в бъдеще.
Но неприятната анкета не беше първата публична грешка, причинена от прегръдката на Microsoft за AI.
През август MSN представи история на началната си страница, която лъжливо твърди, че президентът Джо Байдън е заспал по време на момент на мълчание за жертвите на катастрофалния горски пожар в Мауи.
Следващия месец Microsoft публикува отново история за Брандън Хънтър, бивш играч от НБА, който почина неочаквано на 42-годишна възраст, под заглавието „Брандън Хънтър безполезен на 42“.
След това, през октомври, Microsoft публикува отново статия, в която се твърди, че надзорният орган на Сан Франциско Дийн Престън е подал оставка от поста си след критики от Илон Мъск.
И тази история е невярна
Някои от статиите, представени от Microsoft, първоначално са публикувани от неясни уебсайтове, които може да са останали незабелязани сред ежедневния потоп от онлайн дезинформация, която циркулира всеки ден.
Но решението на Microsoft да публикува повторно статии от маргинални издания издигна тези истории до потенциално милиони допълнителни читатели, вдъхвайки живот на техните твърдения. Редактори, които преди са работили за Microsoft, казаха на CNN, че този вид фалшиви истории или практически всякакви други статии от уебсайтове с ниско качество не биха били представени на видно място от Microsoft, ако не беше използването на AI.
Ryn Pfeuffer, която е работила периодично като изпълнител на Microsoft в продължение на осем години, каза, че е получила обаждане през май 2020 г. с новината, че целият й екип е съкратен.
2020 г. беше годината, каза говорител на Microsoft в изявление в сряда, че компанията започна да преминава към „персонализирана емисия“, която е „съобразена с алгоритъм според интересите на нашата аудитория“.
Като редактор на лайфстайл вертикала на сайта, работата на Pfeuffer включваше избор и куриране на истории, които да бъдат представени в сайтовете на Microsoft.
„Имахме наистина сплотен, супер талантлив редакторски екип и всички работихме заедно дълго време“, каза Пфеуфер пред CNN. Групата, включваща ветерани журналисти, прие сериозно своите отговорности като куратори, каза тя.
„Не мисля, че хората осъзнават колко хора използват [MSN]“, каза тя пред CNN. „Трябваше да носите отговорност за това, което поставяте на сайта, защото толкова много хора биха го прочели и биха могли да бъдат повлияни от него.“
Microsoft отказа да каже колко, ако има такива, човешки редактори все още работят върху курирането на сайта или дали всичко се прави от AI и алгоритми.
Превъртайки началната страница на Microsoft преди няколко седмици, Pfeuffer каза, че тя изглежда неузнаваема за портала, който тя и нейните колеги някога са курирали. На сайта бяха представени не само обективно неверни и странни истории, но и открито хиперпартийни статии със заглавия като „Трябва ли Америка да се отърве от Байдън завинаги?“ и „A Darker Side of the Catastrophe Unfolding Under Joe Biden“ също добиха известност.
Тези истории на Microsoft, не са публикувани от надеждни и утвърдени новинарски организации, а вместо това произхождат от по-малки сайтове с малко или никаква информация за това кой стои зад тях или подробности за техните редакционни стандарти.
Пфеуфър казва, че тези сайтове и заглавия никога не биха били представени на видно място на началната страница на Microsoft, докато тя и нейните колеги от редакцията са работили там, и каза, че е ужасена, че „те имат тези уебсайтове, които изглеждат като факти, които не са законни източници на новини, изпомпващи дезинформация на началната страница.”
„Опитахме се да обхванем всичко много справедливо от всички страни и да не заемаме политическа позиция по теми“.
Начална страница по подразбиране
Именно сензационни заглавия като тези привлякоха вниманието на Ферис Кавар, баща на две деца и мениджър по устойчивост в Санта Моника, Калифорния.
Уеб браузърът по подразбиране на Kawar се промени на Microsoft Edge след скорошна актуализация на софтуера и с него началната му страница премина на Microsoft.
„Имах чувството, че стоя на опашка в магазина за хранителни стоки и чета първа страница на National Enquirer“, каза Кавар пред CNN.
„Мисля, че Microsoft е доста надеждна компания“, каза той. „Не ги смятам за политически по никакъв начин. Но това определено изглеждаше като съдържанието, което беше избутано, определено изкривено надясно.“
Стиснат Microsoft
Microsoft и нейният президент Брад Смит публикуваха обширни публикации за отговорното използване на AI.
Но компанията предложи много малко подробности, когато бяха зададени въпроси от CNN.
Говорител на Microsoft каза в изявление в сряда: „Както при всеки продукт или услуга, ние продължаваме да коригираме нашите процеси и непрекъснато актуализираме нашите съществуващи политики и дефинираме нови, за да се справим с възникващите тенденции. Ние се ангажираме да се справим с неотдавнашния проблем със статии с ниско качество, допринесли за емисията, и работим в тясно сътрудничество с нашите партньори по съдържание, за да идентифицираме и адресираме проблемите, за да гарантираме, че отговарят на нашите стандарти.“
Но в писмото си до компанията във вторник The Guardian каза, че технологичната компания „не е успяла да отговори по същество“ на въпросите на вестника за това как AI ще бъде използван в своята журналистика.
Началната страница на Kawar вече не е Microsoft и той промени своя браузър по подразбиране обратно на предпочитаната от него опция Google Chrome. Но милиони други по света все още получават своите новини от Microsoft.
„Ако ще имат първа страница, която е изцяло за новини, тогава трябва да поемат тази отговорност сериозно и да разберат, че това има последици за обществото“, казва Кавар.
