Оркестрація мільйонів записів у ваших базах даних

Професійний Шлях Артура Сіндарського

Сіндарський детально розповів про свій професійний шлях. Артур є засновником компанії Osmium, яку створив понад десять років тому. Почавши як звичайний співробітник в IT-компаніях, він згодом перейшов до менеджерських ролей, де безпосередньо працював з клієнтами та замовниками програмного забезпечення.

"Я засновник компанії «Осмілум». Ми розробляємо програмне забезпечення. Якщо сказати простіше, це веб-додатки, це мобільні додатки, також це AI. Ми почали розробляти десь більше року тому".

Компанія Osmium спеціалізується на створенні веб- та мобільних додатків, а останнім часом активно інтегрує штучний інтелект. Сіндарський наголосив, що вони почали придивлятися до AI понад рік тому, як до нової перспективної сфери. Його досвід у менеджменті дозволив зосередитися на прямій взаємодії з клієнтами, що стало основою для заснування власного бізнесу.

Особисті Інтереси та Практичний Досвід з Технологіями

Окрім професійної діяльності, Сіндарський поділився своїми особистими захопленнями технологіями, які він застосовує в повсякденному житті. Він активно використовує AI для особистих проєктів, наприклад, нещодавно почав кодити мобільний додаток для своєї дівчини-психолога, попри те, що не є професійним програмістом.

"Із останнього досвіду, буквально на цьому тижні, я почав кодити, хоча я не кодер сам по собі, додаток мобільний для своєї дівчини. Вона психолог, і тому ми вирішили зробити мобільний додаток. А оскільки я знаю багато дуже технічних деталей, то це завдання виявилось цілком реалізуємо," – розповів він.

Це ілюструє його переконання, що з деякою зовнішньою допомогою AI робить складні завдання доступними навіть для нетехнічних людей.

Вступ до Теми: Оркестрація Даних та AI

Переходячи до основної частини презентації, Сіндарський запустив слайди та пояснив ключове поняття "оркестрації" – це жаргонний термін, що охоплює роботу з даними, їх управління, аналіз тощо. Він звернув увагу на типовий хаос у компаніях: дані розкидані по Google Drive, Excel, CRM-системах як Bitrix, базах даних MySQL чи PostgreSQL.

"Ми будемо говорити про те, як компаніям, вам як засновнику, або вашим робітникам працювати з допомогою АЯ, з цим всім хаосом, тому що я знаю, що дуже часто буває ситуація, що, наприклад, щось у нас на Google диску, а щось у нас, наприклад, в Екселі зберігається," – пояснив Артур.

Структура презентації включала:

Основні поняття: Базові технічні основи для розуміння технологій.
Проблеми та рішення: Типові виклики та способи їх подолання.
Технологічний рівень: Використовувані технології, AI-моделі тощо.
Реальні сценарії: Приклади для e-commerce, як найпоширенішої сфери серед українських підприємців, з можливістю адаптації до інших.

Ключові Типи AI: Fine-Tuning vs. RAG

Сіндарський детально розрізнив два основні типи AI:

Fine-Tuning: Це тренування моделі для творчих, розмовних завдань, де потрібна постійна увага та навчання. Приклад – мобільний AI-психолог на базі когнітивно-поведінкової терапії (КПТ).

"Файн-тюнг моделі – це така більш думаюча ЛЛМ, яку треба навчати постійно, за якою треба увага. Це більше для таких розмовних моделей, коли вам потрібно дуже багато творчості у АІ," – пояснив він.

RAG (Retrieval-Augmented Generation): Технологія для роботи з даними в реальному часі, де відповіді базуються на існуючій інформації без вигадок. Вона швидша та менш ресурсоємна.

"Це така технологія, яка дозволяє штучному інтелекту працювати з вашими даними в реальному часі, і його відповіді, вони керуються, логіка відповідей на тому, що він знаходить інформацію, яка вже є в базах даних," – зазначив Сіндарський, підкреслюючи її перевагу для задач з даними, як аналіз користувачів у магазині.

MCP: Ключовий Протокол для Інтеграції Даних

Він представив MCP як стандарт, що дозволяє LLM підключатися до будь-яких джерел даних – від Google Drive, Dropbox, Excel до API, ERP-систем чи баз даних.

"MCP – нічого складного тут нема, це просто стандарт, який дозволяє ллн-ки, штучному інтеллекту, підключатись до будь-яких джерел даних. Тобто це може бути, як я казав вже, Google Drive, Dropbox, Excel-таблиці, API-сервіси, ERP-системи, бітрикси різні, PostgreSQL, MySQL".

Це забезпечує чистоту контексту та запобігає "галюцинаціям" AI. Один з методів – використання додаткової LLM як наглядача за основною.

Верифікація та Супервізія в AI: Захист від Помилок

Сіндарський пояснив концепцію "супервізора" в AI, аналогічну до ролі наглядача в психології. Це додаткова велика мовна модель (LLM), яка контролює основну модель, не маючи доступу до повного контексту даних, але забезпечуючи коректність відповідей.

"Тобто супервізор – це наглядач над основною ЛЛМкою, який не має цього всього контексту даних, якими працює основна ЛЛМка, а він, іменно, як такий поліцейський, який займається тим, що наглядає. І навіть над цією ЛЛМкою супервізором може бути ще одна ЛЛМ, яка наглядає за цим супервізором," – зазначив він.

Такий підхід допомагає уникнути "галюцинацій" AI, коли модель генерує некоректну інформацію, і є одним з варіантів верифікації.

Агрегація, Нормалізація та Збагачення Даних

Переходячи до процесів обробки даних, Сіндарський детально описав етапи агрегації, нормалізації та збагачення. Агрегація передбачає збір даних з різних джерел, нормалізація – уніфікацію форматів для уникнення дублювання, наприклад, "Михайло Федорів" і "Майкл Федорів" як одна сутність.

Збагачення даних додає повну інформацію з різних джерел, створюючи універсальну базу. Це дозволяє проводити аналіз через простий чат-інтерфейс, без потреби в глибоких технічних знаннях.

Сіндарський навів приклад з перевіркою кандидатів на C-level посади:

"Я наймаю людину сі-левел, тобто там СЄФО, СЄМО, то єсть чіф-позицію. Я хочу про цю людину зібрати всю інформацію. Пишу в чат, знайде мені всю інформацію про цю людину і чи хороший він спеціаліст, чи правду він каже в своєму резюме і підсвіти мені, що не так."

Безпека та Оркестрація: Ключові Аспекти для Бізнесу

Важливою темою стала безпека даних, особливо в чутливих сферах. Сіндарський навів приклад додатка для психотерапевтів: "Як ви вважаєте, там навіть, якщо цей психотерапевт дві або три людини терапевтує, він початківець, наскільки важливо сек'юритися в цьому додатку." Він підкреслив ризики витоку інформації та необхідність захисту від промпт-ін'єкцій.

Сіндарський описав реальний кейс з ізраїльським клієнтом – мультимільйонною компанією: "Це рішення ми вже застосовували з нашим ізраїльським клієнтом, який, ну це мультимільйонна компанія, у них підрядники, мають вони досить багато інформацій, різні дані, і так далі, тому це вже реальний кейс, який працює."

Система базується на ядрі, яке персоналізується: агрегація, нормалізація, побудова графу знань (візуалізованого як дерево з вузлами та зв'язками).

"Граф – це, як вам пояснити простими словами, це така, як кружечки між ними лінії, і воно, ідея, яка ялинкою розтікається від одного, наприклад, кружок – це категорія, від категорії під категорію," – пояснив він.

Персоналізація займає від тижня до кількох місяців, залежно від обсягів даних та джерел (MCP).

"Це займає, якщо задаєтесь таким питанням, там скільки це займає зазвичай, це може займати тиждень, це може займати місяць, це в дуже великих компаніях може займати там декілька місяць, а може бути постійно."

Застосування AI в E-commerce

У продовженні сесії Артур Сіндарський зосередився на реальних сценаріях використання AI в електронній комерції, підкреслюючи, як штучний інтелект може допомогти бізнесу оптимізувати процеси та зменшити втрати.

Сіндарський розпочав з типової "болі" e-commerce – повернень товарів, які можуть становити 15-20% від продажів і призводити до значних витрат. Він пояснив, як AI агрегує дані з різних джерел (адмін-панелей, ERP-систем, точок видачі) для аналізу причин.

"Ми виясняємо, чому вони повертаються. Ми збираємо дані. Ось у нас початковий промт. 15-20% товарів повертаються, це коштує нам багато грошей і все таке," – зазначив спікер, посилаючись на свій 20-річний досвід у сфері.

AI пов'язує дані про повернення з описами товарів, фото та паттернами поведінки клієнтів, генеруючи рекомендації. Наприклад, якщо розмір 42 певної марки часто повертають, система може запропонувати покращити таблицю розмірів чи додати більше фото.

"Він пов'язує дані, він пов'язує всі повернення з описом товару, з фото, він виявляє паттерни. Чому, наприклад, саме розмір 42 часто повертають, саме цієї марки. Він робить на основі цієї інформації і припущення, він робить рекомендації, що треба зробити, покращити таблицю розміру, додати кольори і так далі," – пояснив Сіндарський.

Він наголосив, що AI не є "чарівною паличкою", а лише основою для тестування: "Звісно, що штуцьний інтелект, не можна прям 100% на нього спиратись... Вам потрібно перевіряти, як бізнесмену, засновнику, те, що він рекомендує."

Інші Сценарії Застосування AI в E-commerce

Сіндарський перейшов до інших кейсів, ілюструючи універсальність AI:

Пошук на Сайті: Якщо пошукова система працює погано, AI аналізує запити, де користувачі нічого не знайшли, і пропонує покращення.

"Якщо ми цю інформацію зберігаємо, які були запити, що користувач не знайшов, ми можемо вже на цій інформації робити якісь висновки... Ми вже можемо робити висновки, що робити, може якось переназвати або покращити пошук. Ця рекомендація Олемки нам покращить конверсію," – пояснив він.

Підтримка Клієнтів: AI агрегує дані з CRM та інших джерел для повної картини клієнта. Якщо оператору бракує інформації, система швидко надає додаткові деталі.

"То штучний інтелект, за допомогою того, що ми маємо агріговані дані, ми маємо більш повну картину про людину, про клієнта і маємо додаткову інформацію... Він може написати там, дай мені інформацію про цього клієнта, додаткову отаку, він її знайде," – зазначив спікер.

Покинуті Кошики: Аналіз причин, чому клієнти не завершують покупку, з агрегацією даних для висновків.
Ціноутворення: AI не обмежується внутрішніми даними – він може парсити сайти конкурентів для моніторингу цін та рекомендацій знижок.

"Ми можемо також взаємодіяти з конкурентами, ми можемо парсити їхні сайти, дивитися інформацію, що в них, скільки коштує і так далі, моніторити їх і також робити якісь знижки або демпінгувати ціну," – розповів Сіндарський.