Дата публікації:
Публікація:
20-22 липня Service Delivery Director CONTIO Tech Андрій Ковальов взяв участь у TrustCon 2026 у Сан-Франциско – щорічній міжнародній конференції, що об’єднує фахівців із технологічного бізнесу, державного сектору, академічної спільноти та громадських організацій. TrustCon є ключовою подією з питань Trust & Safety: захисту онлайн-платформ і спільнот, конфіденційності, модерації контенту, боротьби з шахрайством, кіберзахисту і запобігання образливої поведінки чи дезінформації. Упродовж 3 днів у різних сесіях і розмовах повторювалося одне запитання: як захищати користувачів, коли правила не дають готової відповіді, а нові ризики виникають швидше, ніж оновлюються інструкції?
Trust & Safety давно не обмежується соціальними мережами. Система може пропустити небезпечний сценарій, шахрай – видати себе за іншу людину, а легальний допис – здатися порушенням без контексту. На TrustCon Андрій Ковальов брав участь в обговореннях, де ризики розглядали з операційної точки зору. Як перетворити правила й технології на захист, який працює щодня?
AI-системи потрібно перевіряти на зловживання до того, як ними почнуть користуватися люди. У дискусії з фахівцями Microsoft йшлося про red teaming – пошук слабких місць моделі ще до запуску. На круглому столі Human-in-the-Loop фокус змістився на роль людини: команда має бути здатна зупинити або скоригувати автоматичне рішення, а не лише спостерігати за ним.
Після запуску сервісу ризик важливо не лише помітити, а й правильно опрацювати. З представниками Helix і BATLR.ai говорили про підтвердження особи за голосом та AI-інструменти для виявлення шахрайства на маркетплейсах і в онлайн-спільнотах. Технологія лише вказує на потенційну загрозу. Далі вже команда має перевірити сигнал, оцінити ризик і вирішити, як діяти, щоб захистити користувачів.
Часто для розуміння контексту одного правила недостатньо, і тоді виникають важливі та цікаві дискусії. Наприклад, з представниками Center for Democracy & Technology і Twitch розглядали авторів політичного контенту. Одна й та сама людина може бути журналістом, активістом, рекламодавцем або представником політичної кампанії. Тому Trust & Safety є набагато більшим за політики. Це, перш за все, підготовлена команда та зрозумілий порядок дій у неоднозначних ситуаціях.
Команди Trust & Safety рідко можуть чекати, доки з’явиться повна визначеність. Тому бізнесу важливо заздалегідь визначити, як перевіряються ризикові сигнали, коли рішення ескалюються і в яких випадках має втрутитися людина. Саме така готовність перетворює окремі технології на надійну операційну систему,
– зазначив Андрій Ковальов, Service Delivery Director CONTIO Tech.
TrustCon завершився, але найпрактичніша частина починається після повернення – коли почуте переходить у роботу команд. Цю розмову важливо продовжувати й у межах IT Ukraine Association, адже маркетплейси, fintech, gamedev, сервісні та AI-компанії мають спільне завдання: помічати проблему до того, як вона перетвориться на інцидент.
