Фото до статті
- Автор
- Катерина Мельник
- 36726
Instagram сприяє поширенню самокалічення (самоушкодження) серед неповнолітніх, як повідомляє The Guardian, посилаючись на дослідження данських фахівців з компанії “Digital Accountability”.
Дослідники мали намір перевірити твердження компанії Meta щодо вдосконалення алгоритмів для видалення шкідливого контенту за допомогою штучного інтелекту: «Корпорація заявляє, що нейтралізує приблизно 99% небезпечного контенту до його виявлення».
З цією метою вони сформували групу з вигаданими профілями підлітків віком від 13 років, де розміщували матеріали, пов’язані з нанесенням собі ушкоджень. Інтенсивність такого контенту поступово нарощували, додаючи зображення крові, лез, та заохочуючи до самопошкодження. Однак, протягом місячного експерименту, Instagram не видалив жодного з 85 розміщених матеріалів, наголошують дослідники.
Крім того, вони розробили власний простий інструмент ШІ, який самостійно ідентифікував 38% зображень із самоушкодженнями та 88% найжорстокіших їхніх проявів. Через це вони припускають, що Instagram міг би вирішити цю проблему, але «обрав не впроваджувати власні рішення ефективно».
Вони також вказують на те, що алгоритми Instagram сприяли розростанню спільноти з подібним контентом. 13-річні користувачі ставали друзями з усіма членами групи після встановлення зв’язку з одним із її учасників.
«Ми припускали, що поступово збільшуючи жорстокість контенту, ми досягнемо такого рівня, коли штучний інтелект або інші інструменти зможуть розпізнати чи ідентифікувати ці зображення. Але це стало великим сюрпризом – вони цього не зробили», – доповнює команда дослідників.
- Самокалічення – це цілеспрямоване завдавання собі болю та шкоди, фізична форма аутоагресивної поведінки, за якої особа завдає собі шкоди без наміру скоїти самогубство. Раніше ми опублікували історію жінки, яка з юного віку до 25 років до крові роздирала висипання на тілі, і намагалися зрозуміти причини такої поведінки.
- У вересні Instagram анонсував впровадження акаунтів для підлітків із новими обмеженнями. Всі профілі неповнолітніх будуть закритими за замовчуванням. А обмін повідомленнями буде доступний лише з користувачами, з якими вони вже взаємодіяли раніше, або з взаємними підписниками.