Модератори Facebook за місяць виявили 50 мільйонів дописів із фейками про коронавірус

Упродовж квітня модераційна команда соцмережі Facebook виявила 50 мільйонів дописів із фейковою інформацією про коронавірус.

Такі дані наведено у звіті Community Standards Enforcement Report, оприлюдненому 12 травня.

“Ґрунтуючись на 7500 інформаційних матеріалах від наших незалежних партнерів-фактчекерів, у  квітні ми поставили попереджувальні позначки [про те, що це фейк] на 50 мільйонів дописів у фейсбуці, які стосуються COVID-19”, – інформують у компанії.

Повідомляється також, що починаючи з 1 березня Facebook видалив понад 2,5 мільйона одиниць контенту, які стосувалися продажу масок, дезінфекторів для рук, антибактеріальних серветок і навіть тестів на COVID-19.

Окрім того, було видалено “сотні тисяч одиниць інформації”, яка могла призвести до фізичної шкоди для користувачів. Ідеться, серед іншого, і про повідомлення, нібито коронавірусна інфекція становить не більшу загрозу, ніж звичайна застуда.

Водночас керівництво соцмережі визнає, що оперативно реагувати на неправдиву інформацію – це “непроста робота”, і “наші інструменти далекі від досконалості“.

Також у компанії зауважують, що повністю побороти фейки в цьому сенсі не вдасться ніколи, адже “це безперервне поборювання” (тобто поки одну дезінформацію видаляють, в цей час хтось публікує іншу – і так по колу).

Водночас керівництво Facebook переконане, що попередження про ймовірну дезінформацію працюють: “У 95% випадків якщо користувач бачить позначку про фейк, він на це повідомлення вже не клікне”.

Розповіли в компанії і про те, хто саме займається відстежуванням неправдивих повідомлень: повідомляється, що це роблять як штучний інтелект, так і живі люди. Але саме зараз, у час всесвітнього локдауну, основну роботу виконують машини.

“Під час пандемії COVID-19 Facebook у модеруванні даних покладається переважно на технології, а не на послуги фірм-модераторів, як зазвичай. Річ у тім, що працівники цих фірм не мають права доступу до конфіденційних даних соцмережі зі своїх домашніх комп’ютерів”, – пояснюють у компанії.

Читайте також:
Коронавірус в Італії: через ФБ розганяють фейки про паніку серед українців

Додатково у звіті зазначається, що “основна частина мови ненависті у Facebook міститься у фотографіях та відео”, і найгірше – якщо в “хейтспічному” повідомленні задіяні одразу й зображення, і текст. Вчасно відстежити такі моменти – це, мовляв, іще більший виклик для технологій штучного інтелекту, який повинен вчитися аналізувати одночасно відео, фото, текст, та ще й враховувати мовні відмінності. Найбільша ж складність для програми – визначити відео- й фотодублікати, які зовсім незначно відрізняються від схожої картинки.

Але, як запевняють у Facebook, штучний розум “вчиться”.

“Після того як незалежні факт-чекери встановили, що зображення містить оманливі або помилкові твердження про коронавірус, SimSearchNet як частина нашої системи індексації та узгодження зображень може розпізнавати мінімальні відмінності, і ми можемо застосовувати до такого зображення попереджувальні мітки”, – зазначають в адміністрації соцмережі.

Як приклад “тренажера” для своїх програм у Facebook наводять картинку про те, що коронавірус нібито виявлено в туалетному папері.

Дезінформацію, яку швидко розвінчали фактчекери, поширював відомий як невичерпне джерело фейків сайт Now8News. І саме цю картинку фейсбук використав для того, щоб “тренувати” свої програми відрізняти фейкове фото від такого самого, але з написом “COVID-19 НЕ виявлено в туалетному папері”.

Як запевняють у компанії, тренування було корисним. Бо головна мета – зменшити поширення зображень-дублікатів із зумисне викривленою інформацію. А також – уникнути випадкового маркування як “фейкових” тих повідомлень, які насправді такими не є.

Читайте також:
Facebook видалив усі акаунти російського пропагандистського агентства News Front