Съдържание
- Да хвана крадец. , ,
- Без грешки, без стрес - Вашето стъпка по стъпка ръководство за създаване на софтуер, променящ живота, без да разрушава живота ви
- Спиране на разпространението
Източник: Mast3r / Dreamstime.com
За вкъщи:
Изследователите се обръщат към AI за борба с фалшивите новини. Но може ли наистина да помогне или просто ще влоши нещата?
Очаква се фалшивите новини да бъдат основен трън в страната на предстоящите президентски избори, да не говорим за цялостния му разяждащ ефект върху публичния ни дискурс като цяло. В днешното свързано общество различаването на факти от фантастиката става все по-трудно, поради което някои изследователи започват да се фокусират върху силата на изкуствения интелект за решаване на този проблем.
Надеждата, разбира се, е, че машините или по-точно алгоритмите ще бъдат по-добри от хората при забелязване на лъжи. Но това реалистично очакване ли е или просто поредният случай на хвърляне на технологията при привидно неразрешим проблем?
Да хвана крадец. , ,
Един от начините, по които учените на данни планират да изострят акулите на ИИ в тази област, е като му позволяват да генерира фалшиви новини. Институтът на Алън за ИИ в Университета на Вашингтон разработи и публикува публично Grover, двигател за обработка на естествен език, предназначен да създава фалшиви истории по широк спектър от теми. Въпреки че това може да изглежда контрапродуктивно в началото, това всъщност е доста често срещана тактика на AI обучение, при която една машина анализира изхода на друга. По този начин, аналитичната страна може да бъде доведена до скорост много по-бързо, отколкото да се разчита на действителни фалшиви новини. Институтът твърди, че Grover вече може да работи с 92% степен на точност, но е важно да се отбележи, че той умее само да прави разграничение между генерирано от AI съдържание от съдържание, генерирано от хора, което означава, че умен човек все още може да промъкне фалшива история покрай него. (За да научите повече, разгледайте Технологиите за борба с фалшивите новини.)
В правилните ръце, разбира се, Гроувър може бързо да разбере нашето разбиране за това как се създават фалшиви новини и как се разпространява и това теоретично може да се използва, за да я осуети в реалния свят. Но както Futurism.com отбеляза наскоро, някои експерти, които са взели системата за пробен пробег, са алармирани колко ефективна е тя в създаването на правдоподобни лъжи и дори имитират стилове на писане на законни новини, като Wall Street Journal и New York Times.
Но тъй като лъжата е по своята същност интуитивен и възбуден от емоции акт, възможно ли е дори най-умните машини, които все още се движат от студена и твърда логика, да успеят някога да постигнат нивото на конусно разбиране, необходимо за откриване на лъжа? Мария Алмейда на Unbabel наскоро отбеляза, че въпреки че някои итерации могат да станат доста добри в това, никой алгоритъм не може да се надява да постигне пълно човешко разбиране. Това означава, че AI може да бъде в състояние да направи драматични подобрения в проверката на фактите и сравнителния анализ, но крайният разговор е най-добре да се остави на обучени експерти.
По ирония на съдбата обаче тази възможност ще бъде най-полезна при откриване на дълбоко фалшиви видеоклипове, които започват да правят кръговете в социалните медии. С AI, способен да анализира визуални данни до отделни пиксели, той ще бъде много по-умел да забележи променени изображения, отколкото променени думи и понятия.
И все пак, твърди Чарлз Тауърс-Кларк на Forbes, централният проблем на фалшивите новини не е, че малко хора го създават, а че толкова много хора са повлияни от него. Хората са склонни да вярват в това, което искат да вярват, а не в това, което фактите ги водят да вярват. Така че дори ако високо развит AI двигател декларира, че вярата им е грешна, хората ще бъдат по-склонни да се съмняват в машината, отколкото в себе си.
„Прилагането на машинно обучение за борба с разпространението на фалшиви новини е възхитително“, казва той, „и има нужда да се обърне внимание на този проблем, тъй като надеждността на големите медийни бюлетини е поставена под въпрос. Но с разпространението на дезинформация, съставена от социалните медии, може ли откриването и разкриването на източниците на фалшиви новини да преодолее човешкия инстинкт да повярваме в това, което ни се казва? “
Без грешки, без стрес - Вашето стъпка по стъпка ръководство за създаване на софтуер, променящ живота, без да разрушава живота ви
Не можете да подобрите уменията си за програмиране, когато никой не се интересува от качеството на софтуера.
Истинското предизвикателство е не да се идентифицират и разгръщат фалшиви новини, а да се разбере защо тя е склонна да се разпространява в социалните медии толкова по-бързо от истинските новини. Отчасти това се дължи на естеството на самите фалшиви новини, които са склонни да бъдат вълнуващи и нахални спрямо сравнителния поредица от реалност. В крайна сметка, реалистично ли е да се очаква технологията да коригира това, което по същество е нетехнически проблем? (За повече информация как AI променя медиите, вижте 5 AI Advances in Publishing and Media.)
Спиране на разпространението
Ето защо е важно AI да се съсредоточи върху техническия аспект на фалшивите новини, а не върху човешкия аспект, казва Робин Харис от ZDNet. И наистина, повечето изследователи обучават ИИ да се занимават с неща като разграничаване на естествените и изкуствените модели на разпространение чрез социалните мрежи. Ключови показатели като скоростта на преобразуване на дърветата, времето на ретуит и общите данни за отговорите могат да бъдат използвани за идентифициране и неутрализиране на кампании за дезинформация, дори ако нейният източник е скрит под слоеве от цифрови измами. В същото време AI може да се използва за управление на други технологии, като blockchain, за поддържане на проследими, проверими информационни канали.
Факт е, че фалшивите новини не са ново явление. От досадната журналистика от началото на 20-тетата век чак назад до пропагандата на най-ранните цивилизации, привличането на обществото е традиция, почитана във времето както за седнали правителства, така и за революционери. Разликата днес е, че цифровите технологии демократизират тази способност до степен, че почти всеки може да публикува лъжа и да я гледа как се разпространява по целия свят за броени часове.
Технологии като AI със сигурност могат да помогнат да се внесе известна яснота в това объркване, но само хората могат да разберат напълно и да преценят истината.