Як розробляти продукти із ШІ – рекомендації для компаній і стартапів

 

Асоціації IT Ukraine виступила експертом у розробці рекомендацій від Мінцифри щодо відповідальної розробки технологічних систем зі штучним інтелектом. Поради допоможуть компаніям і стартапам упроваджувати ШІ у свої продукти та сервіси без порушення прав людини, авторського права й приватної власності.

 

На світовому ринку зростає запит на відповідальний ШІ. Користувачі інноваційних продуктів очікують від компаній проривних AI-рішень, які водночас будуть безпечними для них. Ці рекомендації – практичний гайд для українських розробників, як зберегти градус інноваційності в продуктах та водночас дизайнити рішення, дотримуючись прав людини,

– зазначив Олександр Борняков, заступник Міністра цифрової трансформації з питань розвитку IT.

 

Поради розроблені на основі найкращих світових стандартів, зокрема методології HUDERIA від Ради Європи, яка допомагає оцінювати вплив AI-систем на права людини.

 

Рекомендації в документі можна застосувати для розробки технологічних рішень у різних сферах – фінанси, медицина, освіта, працевлаштування, маркетинг тощо.

 

У документі є практичні вказівки, як компаніям обрати велику мовну модель та адаптувати її під себе через навчання й тонке налаштування. Зокрема, рекомендується звертати увагу не лише на кількість параметрів чи популярність моделі, а й на якість тренувальних даних, прозорість, можливість адаптації та репутацію вендора.

 

Документ містить рекомендації щодо даних, на яких потрібно тренувати модель. А також як їх обробити перед тренуванням, щоб модель працювала без галюцинацій, дискримінації та упереджень.

 

Крім того, експерти зібрали перелік ключових прав людини та приклади порушень цих прав у ШІ-продуктах. Вони охоплюють кейси в медицині, працевлаштуванні, освіті, фінансах тощо. Ці приклади допоможуть компаніям уникнути поширених помилок при розробці продуктів.

 

В окремому блоці є поради, як уникнути порушення авторського права і права власності, особливо під час використання генеративного ШІ.

У додатку наведено понад 30 інструментів для розробки рішень із ШІ, виявлення помилок у коді, аудиту упередженості та справедливості в системах тощо.

 

Серед ключових порад:

 

• Для тренування моделі використовуйте лише ті набори даних, на які маєте законні права, а також перевіряйте, чи є дані збалансованими, повними, знеособленими та нормалізованими.
• Залучайте користувачів до створення та вдосконалення продукту. Використовуйте ітераційний підхід, у якому ви регулярно тестуєте модель, отримуєте зворотний зв’язок й адаптуєте продукт. Це дає змогу зробити систему більш справедливою, корисною та точною – особливо в чутливих сферах.
• Забезпечте фаховий людський нагляд, особливо в ухваленні рішень про доступ до послуг, надання кредитів, роботи або освіти, а також у медичній сфері.
• Враховуйте авторське право. Завжди перевіряйте умови використання моделей і сервісів, а також чи не містить згенерований контент чужих авторських матеріалів.
• Проєктуйте приватність за замовчуванням і дизайном: мінімізуйте збирання даних, забезпечте шифрування, контроль доступу, логування, право на видалення даних. Користувач має контролювати свою інформацію.

 

---

 

Рекомендації розробила Мінцифра разом з Експертно-консультаційним комітетом з розвитку ШІ при Мінцифрі, Асоціацією IT Ukraine, Асоціацією правників України, ЦЕДЕМ, кафедрою інтелектуальної власності та інформаційного права Навчально-наукового інституту права Київського національного університету імені Тараса Шевченка та Науково-дослідним інститутом інтелектуальної власності Національної академії правових наук України. Документ розроблено за сприяння проєкту «Цифровізація для зростання, доброчесності та прозорості» (UK DIGIT), що виконується Фондом Євразія і фінансується UK Dev.