# Модератори контенту заявили про 80% помилок ІІ-систем
Штучний інтелект ускладнює, а не спрощує роботу модераторів контенту. Він не може надійно розпізнавати жорстокість і зло, пише Bloomberg посилаючись на 13 професійних фільтраторів онлайн-матеріалів.
Один з працівників TikTok під псевдонімом Кевін заявив, що більше року тому йому доручили використовувати ІІ-програму в своїй роботі. Він оцінив кількість помилок приблизно в 70%. Наприклад, штучний інтелект може повідомити про низький рівень пального на приладовій панелі автомобіля на відео, хоча повинен проаналізувати спідометр, що показує 200 км/г.
Кевін вважає, що, незважаючи на виникаючі труднощі, роботодавці продовжать замінювати людей машинами.
Професійні модератори підтвердили твердження — ІІ починають застосовувати швидше, ніж він вчиться якісно відсівати шкідливий контент.
Експерти побоюються виникнення контрольованого штучним інтелектом інтернет-середовища, в якому ненависть, пропаганда, спокушання дітей та інші форми онлайн-загроз будуть вільно поширюватись.
«Якщо стати на шлях впровадження ШІ, щоб скоротити кількість фахівців з безпеки, це призведе до її зниження. Потрібні живі люди», — заявив директор з технологій Канадського центру захисту дітей Ллойд Річардсон.
Робота модератора контенту завдає емоційних травм, а найм достатньої кількості людей — складне завдання. Користувачі лише на YouTube завантажують понад 20 млн відео на день. Компанії роблять ставку на штучний інтелект, однак він лише заважає.
З 13 модераторів, з якими поспілкувалися журналісти Bloomberg, 12 заявили про ускладнення роботи після інтеграції нейромереж.
«Ми не можемо покладатися на підказки ШІ. У 80% випадків він помиляється. Ми навіть не дивимося на його пропозиції», — заявила 36-річна співробітниця казахстанської фірми з модерації контенту Жанерке Каіденова.
Кевін витрачає час на виправлення помилок, вручну проставляючи надточні мітки для всього побаченого. Ця робота лише збільшує навантаження і забирає час, який можна було б витратити на більш термінові завдання.
Він впевнений, що його ретельні виправлення фактично навчають систему, і в результаті вона замінить його, хоча керівництво про це прямо не говорить.
Нагадаємо, у травні 2024 року Reddit оголосив про партнерство з OpenAI, яке надало реддиторам і модераторам нові функції на базі ШІ.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Модератори контенту повідомили про 80% помилок ІІ-систем
Штучний інтелект ускладнює, а не спрощує роботу модераторів контенту. Він не може надійно розпізнавати жорстокість і зло, пише Bloomberg посилаючись на 13 професійних фільтраторів онлайн-матеріалів.
Один з працівників TikTok під псевдонімом Кевін заявив, що більше року тому йому доручили використовувати ІІ-програму в своїй роботі. Він оцінив кількість помилок приблизно в 70%. Наприклад, штучний інтелект може повідомити про низький рівень пального на приладовій панелі автомобіля на відео, хоча повинен проаналізувати спідометр, що показує 200 км/г.
Кевін вважає, що, незважаючи на виникаючі труднощі, роботодавці продовжать замінювати людей машинами.
Професійні модератори підтвердили твердження — ІІ починають застосовувати швидше, ніж він вчиться якісно відсівати шкідливий контент.
Експерти побоюються виникнення контрольованого штучним інтелектом інтернет-середовища, в якому ненависть, пропаганда, спокушання дітей та інші форми онлайн-загроз будуть вільно поширюватись.
Робота модератора контенту завдає емоційних травм, а найм достатньої кількості людей — складне завдання. Користувачі лише на YouTube завантажують понад 20 млн відео на день. Компанії роблять ставку на штучний інтелект, однак він лише заважає.
З 13 модераторів, з якими поспілкувалися журналісти Bloomberg, 12 заявили про ускладнення роботи після інтеграції нейромереж.
Кевін витрачає час на виправлення помилок, вручну проставляючи надточні мітки для всього побаченого. Ця робота лише збільшує навантаження і забирає час, який можна було б витратити на більш термінові завдання.
Він впевнений, що його ретельні виправлення фактично навчають систему, і в результаті вона замінить його, хоча керівництво про це прямо не говорить.
Нагадаємо, у травні 2024 року Reddit оголосив про партнерство з OpenAI, яке надало реддиторам і модераторам нові функції на базі ШІ.