Як оволодіти генеративним управлінням ШІ

Раптовий вибух генеративного штучного інтелекту створив величезні можливості для компаній і організацій державного сектору будь-якого розміру, але разом із такою можливістю зростає ризик.

Ризики, властиві ШІ покоління, фактично зупинили багато ініціатив ШІ корпоративного покоління. Реакція багатьох керівників полягає в тому, щоб повністю припинити роботу штучного інтелекту покоління – заблокувати доступ до загальнодоступних великих мовних моделей на брандмауері та запровадити політику «заборонити штучний інтелект» у всіх сферах.

Така надмірна реакція на ризики genAI проблематична з двох причин: по-перше, це заважає організаціям будувати успішні стратегії genAI. По-друге, це просто не працює. Співробітники знайдуть спосіб обійти такі обмеження, можливо, скориставшись своїми телефонами або отримавши доступ до штучного інтелекту покоління з дому – повторення знайомої проблеми «принесіть власний пристрій», яку ми зараз називаємо «BYO LLM».

Вихід із цієї головоломки простий: запровадити управління штучним інтелектом – не для того, щоб уповільнити інновації, а для того, щоб усунути перешкоди на шляху впровадження ШІ покоління безпечними, законними та сумісними з корпоративною політикою.

Складний ландшафт управління штучним інтелектом

Враховуючи багатогранні ризики, властиві використанню ШІ покоління, від упередженості під час прийняття бізнес-рішень до розголошення конфіденційної інформації, не дивно, що спільнота постачальників програмного забезпечення відчуває запах крові у воді.

Існуючі інструменти управління – від управління старої школи, ризиків і відповідності чи пропозицій GRC до більш сучасних інструментів керування хмарою – усі не вистачають. Не дивно, що численні постачальники різного розміру виходять на ринок управління ШІ покоління з різноманітними пропозиціями.

Опанувати цей ринок, що тільки зароджується, особливо складно, оскільки постачальники, які беруть участь у розробці штучного інтелекту покоління, пропонують пропозиції, які часто відрізняються один від одного. Вибір підходу кожного постачальника залежить від того, на яких ризиках він зосереджується. Отже, щоб зрозуміти простір управління ШІ покоління, важливо розуміти ризики, притаманні ШІ покоління.

Таким чином, кожна категорія ризику стає відправною точкою для кожного постачальника, оскільки він створює диференційовану пропозицію. Ось найпоширеніші відправні точки:

Регулювання – перший підхід

За останні два роки законодавчі органи в усьому світі поспішно ввели в дію нормативи, орієнтовані на ШІ. Регульовані компанії та державні установи стикаються з дивним клубком таких правил, залежно від того, де вони ведуть бізнес, і характеру їхніх пропозицій.

У центрі цієї бурі – проблеми дискримінації та упередженості. Використання штучного інтелекту покоління в процесі прийому на роботу є одним із найважливіших випадків його використання, наражаючи організації на юридичні ризики та ризики щодо відповідності.

Декілька постачальників впроваджують рішення, які використовують підхід до відповідності покоління штучного інтелекту, а також інші форми штучного інтелекту, включаючи машинне навчання.

SolasAI Inc. фокусується на пом’якшенні регулятивних, правових і репутаційних ризиків у штучному інтелекті – зокрема машинному навчанні, а також геніальному штучному інтелекті. Платформа SolasAI зосереджена на упередженості та дискримінації, розплутуючи деякі складності, властиві таким ризикам.

Наприклад, Solas AI визначає проксі-дискримінацію – наприклад, де місце, де людина робить покупки, може вказувати на її расу. Він також поширює своє виявлення за межі ідентифікаційної інформації на інші чинники дискримінації, скажімо, чи навчався хтось у Гарварді чи в Університеті Говарда.

Для SolasAI мета полягає в тому, щоб надати своїм клієнтам найменш дискримінаційну альтернативу, враховуючи той факт, що повністю усунути упередженість неможливо.

Крім того, варто застосувати підхід, орієнтований на першочергове регулювання Holistic AI Ltd. Як і SolasAI, Holistic охоплює машинне навчання, а також ген ШІ. Компанія фокусується на управлінні репутаційним і операційним ризиком, а також на дотриманні стандартів і правил.

Holistic постійно стежить за зміною глобальних правил штучного інтелекту, а також може виявити використання ШІ в організації за допомогою поєднання сканування документації та інтеграції з корпоративними програмами.

FairNow Inc. також відстежує всі відповідні закони та правила. Платформа FairNow підтримує робочий процес управління, який інвентаризує існуючі способи використання штучного інтелекту, оцінює відповідні ризики та координує діяльність людського управління, як-от схвалення.

FairNow також підтримує стандарти, а також настроювані внутрішні політики. Платформа генерує оцінки ризиків і рекомендації для виконання командами відповідності.

Крім того, варто застосувати підхід, орієнтований на першочергове регулювання Модулі AGякий зосереджується насамперед на європейських нормах, а також на системі управління ризиками Національного інституту стандартів і технологій у США

Платформа Modulos дозволяє компаніям впроваджувати відповідальну політику управління штучним інтелектом, одночасно оптимізуючи дотримання мінливих правил, орієнтованих на штучний інтелект. Це також один із перших постачальників систем управління ШІ, який запропонував агентське управління ШІ (див моя попередня стаття про агентів ШІ).

Завершує список постачальників, які першими займаються регулюванням Credo AI Corp., яка накопичила інформацію про потенційні фактори ризику ШІ, співпрацюючи з регуляторними органами, проектами з відкритим кодом і галузевими організаціями, такими як NIST.

Співробітник на першому місці

Хоча дотримання нормативних вимог є обов’язковим, забезпечення того, щоб співробітники належним чином використовували Gen AI, також є головним пріоритетом для організацій, які прагнуть використовувати цю технологію. З цією метою кілька постачальників впроваджують «огорожі», щоб забезпечити належне використання ШІ покоління співробітниками.

Один із постачальників, який пропонує керування споживанням ШІ покоління Компанія Portal26 Inc. Платформа Portal26 забезпечує видимість несанкціонованого використання штучного інтелекту покоління в організаціях, відомого як «тіньовий штучний інтелект».

Він також допомагає організаціям керувати безпекою даних і пов’язаними з цим ризиками, розпізнаючи різноманітні конфіденційні дані в підказках Gen AI, включаючи ідентифікаційну інформацію, ключі інтерфейсу програмування додатків і контекстну інформацію, як-от вживання наркотиків. Крім того, він забезпечує можливість аудиту та криміналістичну експертизу для використання співробітниками Gen AI, а також Gen AI аналітики вартості.

Аналіз підказок співробітників Portal26 може зайняти кілька секунд, що означає, що він може працювати лише поза діапазоном, щоб не сповільнювати запити Gen AI. Такий підхід контрастує з WitnessAI Inc.який працює як проксі, перехоплюючи кожен запит підказки ШІ покоління, а також кожну відповідь за частки секунди.

Як і у випадку з Portal26, WitnessAI вирішує проблеми тіньового штучного інтелекту та може виявити намір, що стоїть за підказками. Платформа WitnessAI може редагувати конфіденційну інформацію з підказок і перенаправляти запити від загальнодоступних LLM до приватних внутрішніх моделей або взагалі блокувати запити відповідно до політики.

The SurePath AI Inc. Платформа нагадує WitnessAI тим, що забезпечує захист управління як для державних, так і для приватних LLM. Він також може примусово редагувати як запити, так і відповіді, а також класифікувати різні наміри працівника.

Особливістю SurePath є його здатність збагачувати запити корпоративними даними, до яких працівник має доступ відповідно до корпоративної політики, таким чином забезпечуючи значущі відповіді на основі відповідного бізнес-контексту.

Розширення інструментарію для цілей управління ШІ

Хоча основними підходами до управління штучним інтелектом покоління є «насамперед регулювання» та «найперше працівники», інші постачальники розширюють існуючі категорії продуктів у простір управління штучним інтелектом.

Наприклад, Private AI Inc. зосереджується на запобіганні втраті даних або DLP і може забезпечити редагування ідентифікаційної інформації для LLM і дотримання правил захисту даних. Приватний штучний інтелект відрізняється від інших інструментів управління штучним інтелектом своєю мультимодальною підтримкою, включаючи зображення та розпізнавання голосу.

Наприклад, він може ідентифікувати промовлені номери кредитних карток або номери соціального страхування під час дзвінка в службу підтримки клієнтів, навіть якщо мовець додає «мм» або повторює цифри. Приватний штучний інтелект також може виявляти логотипи та інші компоненти зображення, які можуть вважатися конфіденційною інформацією.

Управління ШІ покоління також примикає до швидкого розвитку ринку безпеки ШІ покоління. Один постачальник пропонує рішення на перетині цих двох ринків Enkrypt AI Inc.який пропонує шлюз, який забезпечує доступ до моделей і додатків ШІ покоління, забезпечуючи інвентаризацію та настроювані огорожі для цих активів.

Мета Enkrypt полягає в тому, щоб надати комплексне рішення для управління та відповідності ШІ покоління, надаючи своїм клієнтам можливість керувати відповідністю певним нормам, таким чином дозволяючи їм зменшити ризики, пов’язані з ШІ покоління.

Управління та рухомі піски покоління ШІ

Традиційні інструменти управління, ризиків і відповідності працюють у відносно статичних рамках. Управління ШІ покоління, навпаки, надзвичайно динамічне.

Хоча нормативні документи завжди можуть змінюватися, величезний обсяг нормативних актів, пов’язаних зі штучним інтелектом, і їхня швидка еволюція виходять за рамки більшості рішень GRC. Фундаментально відкрита природа ШІ покоління – той факт, що будь-хто може створювати будь-які підказки – також ускладнює завдання управління.

Традиційні брандмауери, а також алфавітний суп інших пов’язаних продуктів, у тому числі брандмауери веб-додатків або WAF, керування безпекою в хмарі або рішення CSPM і DLP – усе це не вистачає.

Тому немає сумнівів у тому, що управління штучним інтелектом покоління залишиться – навіть незважаючи на те, що те, що хтось розуміє під «керуванням штучним інтелектом покоління», може відрізнятися залежно від того, яким ризикам приділяється найбільша увага.

Джейсон Блумберг є засновником і керуючим директором Intellyx, який консультує бізнес-лідерів і постачальників технологій щодо їхніх стратегій цифрової трансформації. Він написав цю статтю для SiliconANGLE. Жодна зі згаданих у цій статті організацій не є клієнтом Intellyx.

Зображення: SiliconANGLE/ідеограма