Компанії ризикують втратити власні знання.
Генеральний директор Microsoft Сатья Наделла заявив, що компанії, які активно використовують штучний інтелект, можуть несвідомо передавати постачальникам моделей свої найцінніші корпоративні знання. На його думку, бізнес має контролювати власний цикл навчання ШІ, щоб не втратити конкурентні переваги.
У новому дописі в корпоративному блозі Наделла описав явище, яке назвав «парадоксом зворотної інформації». За його словами, компанії платять за використання ШІ не лише грошима, а й власними даними, досвідом та інтелектуальною власністю, які моделі отримують під час взаємодії з користувачами.
«По суті, ви платите за інформацію двічі: спочатку грошима, а потім чимось більш цінним — власними знаннями, які вам доводиться розкривати, щоб ця інформація стала корисною. Чим кращих результатів ви очікуєте від моделі, тим більше таких знань вам доведеться їй надати», — написав Наделла.
Очільник Microsoft порівняв цю ситуацію з інформаційним парадоксом, який свого часу описав лауреат Нобелівської премії з економіки Кеннет Ерроу. Якщо раніше ризик втратити цінну інформацію існував для продавця, то в епоху генеративного ШІ він, за словами Наделли, перейшов до покупця.
На думку керівника Microsoft, підприємствам потрібна нова «межа довіри», яка захищатиме не лише дані, а й процес накопичення корпоративних знань. Він вважає, що організації повинні мати право використовувати результати роботи моделей для навчання власних систем, а також повністю контролювати пам’ять, оцінки, зворотний зв’язок і контекст, які накопичуються під час використання штучного інтелекту.
Наделла окреслив п’ять принципів, які, на його думку, мають допомогти бізнесу:
«Компанія повинна мати можливість використовувати модель, не втрачаючи при цьому тих знань, які роблять її унікальною. Саме з цим “зворотним інформаційним парадоксом” нам і доводиться мати справу», — підсумував генеральний директор Microsoft.
Як пише TechCrunch, ця тенденція вже впливає на корпоративний ринок. Генеральна директорка Solo.io Ідіт Левін повідомила, що дедалі більше компаній після експериментів із закритими моделями переходять на відкриті моделі, які можна розгорнути у власній інфраструктурі. Це дозволяє краще контролювати корпоративні дані та водночас зменшувати витрати.
Подібну тенденцію також фіксують компанії Vercel і OpenRouter. За їхніми даними, частка запитів до моделей із відкритим кодом зростає, а минулого місяця вони вже забезпечили 29 % усього трафіку через ШІ-шлюз Vercel.
Заява Наделли привернула особливу увагу, оскільки Microsoft залишається одним із найбільших інвесторів OpenAI та співпрацює з Anthropic. Попри це, керівник компанії відкрито закликав підприємства не покладатися повністю на закриті моделі та будувати інфраструктуру, яка дозволить зберігати контроль над власними знаннями й інтелектуальною власністю.
Публікація Наделли з’явилася невдовзі після заяви генерального директора Palantir Алекса Карпа, який розкритикував бізнес-моделі OpenAI та Anthropic через використання системи оплати за токени, яка не приносить бізнесу реальної віддачі. На думку Карпа, підприємства дедалі більше невдоволені ризиками втрати своєї інтелектуальної власності, оскільки конфіденційні дані передаються стороннім розробникам.