Във Facebook усилено търсят начини за "проактивно откриване" на поведенчески модели сред потребителите си, които да говорят за самоубийствени настроения у тях. Идеята е да се разработи специален софтуер, който да сканира публикациите и цялостното поведение на хората в социалната мрежа, а в случай на нещо притеснително, това да бъде знак, че въпросният човек е в емоционална дупка и има нужда от помощ.
Системата дори ще може да изпраща известия до местни здравни организации или до приятелите на въпросния човек, които да му се притекат на помощ.
Използването на подобен изкуствен интелект би съкратило много времето за реакция, тъй като по този начин ще може да се засича проблема в много по-ранен стадий, отколкото ако се разчита просто на докладване от страна на другите потребители.
Теория и практика
Социалната мрежа вече проведе тестове на новия си алгоритъм в Щатите, но той ще бъде въведен в употреба и в световен мащаб, с изключение на държавите от Европейския Съюз, където е в сила специална регулация за защита на личните данни и на действията на потребителите в интернет.
Отново с изкуствен интелект Facebook приоритизира рисковите от спешни докладвания от страна на своите потребители. Така от компанията вярват, че могат по-бързо да разрешават казусите чрез модератори или софтуерни инструменти.
Източник: iStock
Освен с допълнителната технология, от Facebook ще се опитат да подобрят превенцията на самоубийствата и чрез допълнителен екип от модератори, които ще преминат през специално обучение и ще работят денонощно по случаите. Работата им ще бъде подкрепена и от 80 партньорски организации на местно ниво, като Save.org, Националната линия за превенция на самоубийствата в Щатите, както и Forefront. Именно тези организации ще осигуряват информация за рисковите потребители, разчитайки на собствена база данни.
"Идеята е да спестим минути във всяка една от стъпките в процеса, особено що се отнася до Facebook Live," заявява вицепрезидентът по продуктовото управление на Facebook Гай Роусън. През последния месец тестване, от социалната мрежа са инициирали повече от 100 проверки на психическото здраве на свои потребители, като всички те са били посетени незабавно от специалисти на локално ниво. "Имаше случаи, в които притеклият се на помощ пристига на мястото, а нуждаещият се от помощ все още излъчва онлайн чрез Facebook Live."
Някой наистина те гледа
Идеята за активно сканиране на публикациите на хората, за да бъдат предпазени от самоубийствени помисли, звучи добре, но може да породи сериозни дистопични страхове за това как технологията се намесва в живота ни. От Facebook все още нямат отговори на това как биха пропуснали възможността да сканират постовете ни за всичко останало - от несъгласия с политическия режим до дребни престъпления.
Роусън бегло коментира, че компанията има възможност да подпомага различни сфери на живота и ще инвестира в тази област. Със сигурност подобна технология предлага доста ползи, но от друга страна на потребителите не им остава друго, освен да се надяват, че Facebook няма да стигна твърде далеч в следенето.
Източник: Facebook
Притесненията се засилват и от факта, че Facebook няма да осигурява възможност на потребителите си да се откажат от опцията публикациите и цялостното им поведение да бъдат следени. От компанията подчертават дебело, че основната функция на изкуствения интелект е да подобри безопасността на потребителите, а специалните съобщения, поддържащи работата на софтуера лесно могат да се скрият. С по-прости думи това означава, че няма да можете да контролирате дали да бъдете следени, или не, но можете да ограничите сервизните съобщения на Facebook, касаещи това следене.
Модели, модератори, действия
Алгоритъмът ще търси специални модели в текста и снимките, които потребителите качват в социалната мрежа. Те ще бъдат сравнявани автоматично с подобни материали, които в миналото са били докладвани ръчно като сигнал за нещо опасно, касаещо психологическото здраве на хората.
В момента системата работи чрез комбинация от изкуствен интелект, модератори и доклади от потребителите. По този начин Facebook иска да предотврати "промотирането" на самоубийствени актове чрез функцията за излъчване на видео кадри в реално време - Facebook Live.
Основният проблем е, че тези видеа се гледат от много хора едновременно в кратък период от време, а не като записаните видеа, които потребителите качват и модераторите могат да свалят, преди те да са станали достояние на много хора.
Източник: Facebook
Сега, ако някой изразява самоубийствени помисли в какъвто и да е тип публикация във Facebook, изкуственият интелект на социалната мрежа ще извършва едновременно две дейности - ще засича проблемни постове и ще известява специално обучени модератори, но и ще направи опциите за докладване на подобни публикации много по-достъпни за използване за потребителите.
Когато модераторите получат подобно докладване, системата автоматично ще подчертава проблемния пасаж от текста или видеото, който отговаря на модели на поведение, свързани със самоубийствени нагласи. Това ще улесни неимоверно работата на модераторите, които иначе трябва да изгледат цялото видео или да изчетат целия текст, за да пресеят притеснителната част. Новият изкуствен интелект ще приоритизира сигналите по степен на важност, като тези за самоубийствени нагласи ще бъдат най-важни и ще са с приоритет пред докладванията за насилие или голота.
Впоследствие, както вече стана ясно, модераторите ще се свързват с партньорски организации на местно ниво, които по най-бързия възможен начин ще посещават застрашения потребител, за да му окажат помощ.
В момента Facebook е използван активно от повече от 2 милиарда потребители.
