Дослідники з Інституту інформаційних наук USC Viterbi розробляють алгоритм, який дозволяє машині навчатися без нагляду людини.
«Взагалі кажучи, машинне навчання — це наука, яка навчає машини діяти, так само як люди», — сказав Мохаммад Ростамі, дослідник Інституту інформаційних наук USC Viterbi (ISI), - повідомляє портал TechXplore.
Навчання машин розвиватися та здобувати нові уміння без будь-якого нагляду з боку людей є предметом його останньої статті «Подолання зміни концепції в налаштуваннях з урахуванням домену за допомогою консолідованих внутрішніх розподілів», яку він представив на 37-й конференції AAAI зі штучного інтелекту, що відбулася у Вашингтоні, округ Колумбія, лютого. 7-14, 2023.
Ростамі пояснив, як зазвичай виконується машинне навчання:
«Ми збираємо дані, анотовані людьми, а потім навчаємо машину, як діяти подібно до людей, маючи ці дані. Проблема, з якою ми стикаємося, полягає в тому, що знання, які отримує машина, обмежений набір даних, який використовувався для навчання».
Крім того, набір даних, який використовується для навчання, часто недоступний після завершення процесу навчання.
Отриманий виклик?
Ростамі навів приклад:
«Є багато категорій собак, різні типи собак візуально не дуже схожі, і різноманітність значна. Якщо ви навчаєте машину класифікувати собак, її знання обмежуються зразками, які ви використовували для навчання. Якщо у вас є нова категорія собак, яка не входить до зразків дресування, машина не зможе дізнатися, що це новий тип собаки».
Цікаво, що люди вміють це краще, ніж машини. Коли людям дають щось класифікувати, якщо їм дають лише кілька зразків у новій категорії (тобто нової породи собак), вони пристосовуються та дізнаються, що це за нова категорія.
Ростамі сказав:
«Шестирічна дитина може вивчити нову категорію, використовуючи два, три або чотири зразки, на відміну від більшості сучасних методів машинного навчання, які вимагають щонайменше кілька сотень зразків, щоб вивчити цю нову категорію».
Часто мова йде не про вивчення абсолютно нових категорій, а про здатність пристосовуватися до змін існуючих категорій. Якщо машина вивчає категорію під час навчання, а потім з часом вона зазнає деяких змін (тобто додавання нової підкатегорії), Ростамі сподівається, що завдяки його дослідженням машина зможе вивчити або розширити поняття того, що ця категорія є, (тобто включити нову підкатегорію).
Зміна природи категорії — це те, що відомо як «зміни концепції». Уявлення про те, що таке категорія, змінюється з часом. Ростамі навів ще один реальний приклад: папку зі спамом.
Він пояснив:
«У вашій службі електронної пошти є модель класифікації вашої електронної скриньки на легальні та спамові. Вона навчена ідентифікувати спам за допомогою певних функцій. Наприклад, якщо електронний лист не адресовано вам особисто, більш імовірно, що це спам».
На жаль, спамери знають про ці моделі та постійно додають нові функції, щоб обдурити моделі та запобігти класифікації їхніх електронних листів як спаму.
Ростамі продовжив:
«Це означає, що визначення «спаму» змінюється з часом. Це визначення залежить від часу. Концепція та сама — у вас є концепція «спаму», але з часом визначення та деталі поняття змінюються. Це зміна концепції».
У своїй статті Ростамі розробив метод навчання моделі машинного навчання, яка розв’яже ці проблеми.
Оскільки оригінальні навчальні дані не завжди доступні, метод Ростамі не покладається на ці дані.
Співавтор і головний науковий співробітник ISI Арам Галстян пояснив, як: «Модель вивчає розподіл старих даних у прихованому просторі, а потім може генерувати приховане представлення, майже як генерування синтетичного набору даних шляхом вивчення представлення старих даних.”
Завдяки цьому модель може зберігати те, що було вивчено на етапі початкового навчання, що дозволяє їй адаптуватися та вивчати нові категорії та підкатегорії з часом.
Це також, що важливо, означає, що він не забуде початкові навчальні дані або те, чого він з них навчився. Це головна проблема машинного навчання.
Галстян пояснив:
«Коли ви навчаєте нову модель, вона може забути про деякі шаблони, які були корисними раніше. Це відомо як катастрофічне забування», — сказав Галстян. За допомогою підходу, розробленого в цій статті, Галстян сказав, що «катастрофічне забування неявно розглядається, оскільки ми вводимо відповідність між старим розподілом даних і новим. Отже, наша модель не забуде старе».
Ростамі та Галстян задоволені результатами, особливо тому, що не покладаються на наявність вихідних даних.
Галстян сказав:
«Я був приємно здивований, побачивши, що модель вигідно відрізняється від більшості найсучасніших існуючих базових ліній».
Ростамі та Галстян планують продовжити роботу над цією концепцією та застосувати запропонований метод до проблем реального світу.