Права и сигурност на данните в корпоративния ИИ: какво да попитате

Правата и сигурността на данните в корпоративния ИИ са съвкупността от въпроси до какви данни по какъв път достига асистентът, какво може да променя и кой какво може да вижда. На екрана на мениджъра един въпрос изглежда лесен; но този въпрос може да отвори бюджета, продажбите по клиенти или записите за доставки. Затова при избора на ИИ асистент трябва първо да се погледне какво работи отзад, а не колко гладък е отговорът. Колкото и семпъл да е чат интерфейсът, под него има слой, който се свързва с базата данни, акаунт и модел на права; рискът е в този слой, а не в интерфейса.

Списъкът по-долу събира въпроси, които можете да зададете на всеки доставчик. При всяка точка отделно описваме какво можем да кажем днес и какво не можем да кажем за асистента на YazSis Корпоративен ИИ, Fero.

Два подхода: свободна заявка и зададени инструменти

• Свободна заявка: Моделът според въпроса пише директно заявка към базата данни и я изпълнява. Гъвкаво е; но става трудно да се проверява коя заявка е изпълнена, кои таблици са свързани, и да се улови грешното число. Погрешно свързана таблица може да даде на пръв поглед разумен, но грешен резултат.
• Зададени бизнес инструменти: Моделът извиква само предварително зададени инструменти; известно е какво прави всеки инструмент, какво чете и как изчислява. По-малко гъвкаво е, но може да се проверява. Обхватът на въпросите, които могат да се задават, също остава ограничен до обхвата на инструментите; това трябва да се чете не като липса, а като цена, платена за контрол.

Fero използва втория подход. Изкуственият интелект не пише SQL; достъпът до данните е само през зададени бизнес инструменти и не се изпълняват свободни заявки. Въпросите по-долу търсят конкретните отговори на този подход.

Седем въпроса към доставчика

Достъп: по какъв път се стига до данните, може ли да ги променя?

Първите два въпроса са свързани. При Fero достъпът до данните е само през зададени 17 бизнес инструмента само за четене и приложението се свързва с базата данни с акаунт, който има право единствено да чете. Следователно асистентът не може да променя данни. Не се задоволявайте с разказа на доставчика за тази граница: проверете заедно със собствения си ИТ екип правата на акаунта на базата данни, използван за връзката. Да има акаунтът само право за четене не означава, че системата „се опитва да промени и не успява“, а че пътят за промяна изобщо не съществува; от гледна точка на сигурността разликата е голяма.

Точност: кой създава числата и екрана?

Третият и четвъртият въпрос се отнасят до надеждността на числото, което вижда мениджърът. При Fero KPI, процентите и разликите се изчисляват в бекенда; моделът не може да каже число, което го няма в резултата от инструмента. Екраните също се изграждат само от 13 одобрени компонента на таблото и изкуственият интелект не генерира код. Поискайте от доставчика да може да покаже от кой инструмент и от кое изчисление идва едно число. Ако не може да се обясни откъде идва числото, което ще се използва на управленска среща, отговорът, колкото и убедителен да е, не е достатъчен за решение.

Обхват: кой какво ще вижда, къде отиват данните?

За петия и шестия въпрос в тази статия не даваме общо уверение, защото отговорите са специфични за проекта. Кои данни ще стигнат до кого по потребител и роля, трябва да се пита с конкретни примери в демото и в разговора за проекта. Каква информация отива към езиковия модел, който ползва асистентът, къде се обработва и записва ли се, също е тема, която трябва да се изясни писмено. Не твърдим абсолютното, че данните изобщо не излизат извън фирмата; задайте този въпрос писмено на всеки доставчик, включително и на нас. Възможна е и практическа проверка на правата: представете си, че върховият мениджър и отговорникът на един отдел задават един и същ въпрос, и поискайте да видите на екрана, а не на думи, какви данни ще стигнат до единия и до другия. Ако отговорът не е ясен, предложете в плана на проекта моделът на правата да се добави като отделна позиция.

Източник: кои източници на данни са наистина готови?

Седмият въпрос разграничава списъка със свързвания в презентацията от днешното състояние. При Fero източникът на данни, който е готов днес, е MySQL; източници като SQL Server, PostgreSQL, REST API, Logo, SAP, Odoo и Excel се разглеждат в рамките на проект. Всеки нов източник носи със себе си и собствен акаунт за достъп, и собствена проверка на правата; сложете това в плана на проекта от самото начало. Разликата между „готово“ и „в рамките на проект“ засяга както графика, така и бюджета; да получите това разграничение от доставчика писмено разкрива реалното състояние на списъка със свързвания в презентацията.

Три сценария за изпробване в демото

• Искане за промяна: Поискайте от асистента да изтрие или да обнови запис. В система, която работи само за четене, това не бива да е възможно; обърнете внимание и как е даден отговорът.
• Въпрос извън обхвата: Задайте въпрос, който не покриват зададените инструменти, и вижте как се държи системата. Добрата система казва ясно границата си, вместо да измисли число.
• Проверка на число: Поискайте число, което познавате, и го сравнете със собствения си отчет. Ако излезе различно, поискайте да може да се обясни от кой инструмент и от кое изчисление идва разликата.

Функцията за сигурност е не онова, което се разказва в презентацията, а онова, което може да се изпробва в демото.

Как работи Fero и какво може да прави днес, можете да разгледате на страницата Корпоративен ИИ и да зададете въпросите си в демо на живо.