Фото до статті
- Автор
- Катерина Мельник
- 36657
Instagram сприяє поширенню самокалічення (нанесення собі ушкоджень) серед молоді, зазначає The Guardian, посилаючись на дослідження данських науковців із компанії “Digital Accountability”.
Науковці прагнули перевірити твердження компанії Meta про вдосконалення алгоритмів для вилучення небезпечного контенту за допомогою штучного інтелекту: «Компанія заявляє, що видаляє приблизно 99% шкідливого контенту ще до отримання скарг на нього».
З цією метою вони створили спільноту з імітованими профілями підлітків віком від 13 років, де поширювався матеріал, пов’язаний із самоушкодженнями. З часом жорстокість такого контенту нарощували, додаючи зображення крові, лез бритви, а також заохочуючи до самокалічення. Проте, протягом місячного експерименту, Instagram не видалив жодного із 85 створених дописів, як стверджують дослідники.
Крім того, вони розробили власний простий інструмент ШІ, який успішно виявив 38% зображень самоушкоджень та 88% найжорстокіших їх проявів. Тому вони вважають, що Instagram мав змогу вирішити цю проблему, але «обрав не впроваджувати своє рішення ефективно».
Вони також зауважують, що механізми Instagram сприяли розширенню такої спільноти. 13-річні підлітки встановлювали дружні зв’язки з усіма членами групи після взаємодії з одним її учасником.
«Ми припускали, що поступово збільшуючи рівень жорстокості матеріалів, ми досягнемо точки, коли штучний інтелект чи інші інструменти зможуть розпізнати або ідентифікувати ці зображення. Але це стало великим здивуванням – вони цього не зробили», – додає команда дослідників.
- Самокалічення – це усвідомлене заподіяння собі болю та шкоди, фізична форма аутоагресивної поведінки, при якій людина завдає собі ушкоджень без наміру вчинити самогубство. Раніше ми розповідали історію жінки, яка з раннього дитинства до 25 років до крові роздирала висипання на тілі, і намагалися розібратися в механізмі такої поведінки.
- У вересні Instagram оголосив про впровадження облікових записів для підлітків з новими обмеженнями. Усі акаунти неповнолітніх будуть автоматично закриті. А обмін повідомленнями буде можливий лише з тими користувачами, з якими вони вже мали контакти раніше або з тими, хто є їх спільними підписниками.