Czy asystent AI może aktualizować system do zarządzania firmą? Jak ograniczyć działania

Asystenta, który myli się w odpowiedzi, poprawia się, czytając ponownie. Asystent, który myli się w zapisie, zostawia błędną daną w systemie do zarządzania firmą, a stąd biorą początek faktura, dostawa albo telefon do klienta. To ta sama technologia, ale ryzyko zmienia charakter: przechodzi się od dyskusyjnej informacji do dokonanej operacji.

Pytanie „czy sztuczna inteligencja może aktualizować system do zarządzania firmą?” ma więc tylko jedną użyteczną odpowiedź: tak, przy operacjach zdefiniowanych z wyprzedzeniem, z własnymi uprawnieniami, z kontrolą przed zapisem i z rejestrem tego, co zrobiła. Cała praca polega na zdecydowaniu, które to operacje.

Odczyt, propozycja, zapis: trzy poziomy, trzy rodzaje ryzyka

Najbardziej użyteczne rozróżnienie nie jest techniczne, lecz organizacyjne, i dotyczy tego, kto bierze na siebie skutek.

Niemal wszystkie użyteczne projekty mieszczą się w pierwszych dwóch poziomach. Trzeci przyznaje się operacjom powtarzalnym i odwracalnym; czwartego w praktyce się nie przyznaje.

Asystent nie jest administratorem: dziedziczy uprawnienia roli

Najczęstszym błędem konfiguracji jest połączenie asystenta z dostępem, który pozwala na wszystko, ponieważ szybciej się go konfiguruje. Od tego momentu każda granica zależy wyłącznie od instrukcji danych modelowi, czyli od najłatwiejszej do obejścia części.

• Asystent ma własne konto, odrębne od kont ludzi, z minimalnymi uprawnieniami do powierzonych zadań.
• Jeśli odpowiada różnym użytkownikom, musi widzieć to, co widziałby dany użytkownik: handlowiec nie może za pośrednictwem asystenta uzyskać danych, których odmawia mu system do zarządzania firmą.
• Połączone narzędzia to zamknięta lista. „Może odpytywać bazę danych” nie jest listą: to ogólny dostęp pod inną nazwą.
• Testy przeprowadza się w osobnym środowisku, nie na danych produkcyjnych, i powtarza się je za każdym razem, gdy zmieniają się uprawnienia.

Zapisy ogranicza się polami, nie dobrymi intencjami

Ograniczenie oznacza spisanie listy dopuszczonych operacji, każdej z jej polami i warunkami. To, czego nie ma na liście, jest niemożliwe, a nie odradzane: cała różnica tkwi właśnie w tym.

• Których pól może dotknąć operacja, a które pozostają tylko do odczytu, nawet gdy asystent o nich mówi.
• Jakie wartości są dopuszczone: przyszła data, status spośród przewidzianych, istniejący klient. Walidacja tkwi w systemie, nie w instrukcjach spisanych dla modelu.
• Na jakich rekordach: własnych, otwartych, z bieżącego okresu. Przypadek „zaktualizuj wszystkich klientów” nie może istnieć.
• Ile razy: limit liczby operacji na sesję zapobiega temu, żeby nieporozumienie zamieniło się w godziny pracy nad ręcznym cofaniem.

Przykładowy proces: przełożenie spotkania

Operacja powtarzalna, o niskim ryzyku, z klientem po drugiej stronie. Przykładowa sekwencja.

1. Przychodzi zgłoszenie: „Czy technik zamiast w czwartek może przyjechać w piątek rano?”. Asystent ustala, o które spotkanie chodzi, a jeśli dane nie wystarczają, pyta zamiast zgadywać.
2. Sprawdza warunki: spotkanie istnieje, nie jest już zamknięte, osoba pisząca ma prawo je przełożyć, nowy termin jest dostępny dla danego technika.
3. Przygotowuje propozycję z wypełnionymi wartościami: stary termin, nowy termin, technik, klient.
4. Pokazuje propozycję osobie, która musi ją autoryzować, i czeka na wyraźną zgodę. Zgoda dotyczy tej propozycji, a nie kolejnych.
5. Wykonuje wyłącznie autoryzowaną operację, z identyfikatorem, który zapobiega jej dwukrotnemu zastosowaniu, jeśli zgłoszenie zostanie powtórzone.
6. Rejestruje wynik i informuje, co się zmieniło. Jeśli operacja się nie powiedzie, mówi o tym otwarcie: asystent, który zgłasza sukces, który nigdy nie nastąpił, jest gorszy niż taki, który się myli.

Krok, który wycina się jako pierwszy, a to on trzyma wszystko razem, to czwarty. Bez wyraźnego potwierdzenia system nie jest już ograniczony: jest tylko dobrze poinstruowany, a instrukcje nie są granicą.

Duplikaty, powtórzenia i sposób cofania

Zgłoszenia się powtarzają: ktoś pisze ponownie, sieć pada, asystent próbuje jeszcze raz. Jeśli każda próba tworzy operację, w rezultacie mamy trzy przełożone spotkania i dwa powiadomienia wysłane do klienta.

• Każda operacja niesie identyfikator wywiedziony ze zgłoszenia: jeśli przyjdzie ono dwa razy, drugie nic nie wytworzy.
• Zanim coś się utworzy, sprawdza się, czy już istnieje: klient, zamówienie, podobne spotkanie tego samego dnia.
• Dla każdej operacji trzeba spisać, jak się ją cofa i kto może to zrobić. Niektóre są odwracalne, inne nie: wiadomości wysłanej do klienta nie da się wycofać, i to wystarczy, żeby przenieść ją do operacji wymagających ludzkiego zatwierdzenia.
• Operacje wykonywane po kolei trzeba traktować jako blok: jeśli trzecia się nie powiedzie, z góry trzeba zdecydować, czy pierwsze dwie zostają, czy zostają cofnięte.

Rejestr: co, kiedy, na czyj wniosek

Bez rejestru nie da się odpowiedzieć na pytanie, które prędzej czy później się pojawi: dlaczego to spotkanie zostało przełożone? Rejestr służy do odtworzenia sytuacji, a nie do obwiniania.

• Pierwotne zgłoszenie, wykonana operacja i zapisane wartości.
• Kto autoryzował, kiedy i przez jaki kanał.
• Wynik, łącznie z nieudanymi próbami i operacjami odrzuconymi przez kontrole.
• Jak długo się go przechowuje i kto może go przeglądać: rejestr zawiera dane firmowe, a czasem osobowe, i chroni się go tak jak resztę.

Zarejestrowane odrzucenia są najbardziej użyteczną częścią w pierwszych miesiącach: pokazują, co asystent próbował zrobić i czego nie mógł. To właśnie z nich wynika, czy granice są zbyt wąskie, czy zbyt szerokie, bez konieczności odkrywania tego przez błąd.

Czego nie obejmuje ten poradnik

Tutaj omawiana jest kontrola działań: jakie operacje są dozwolone, kto zatwierdza, jak się je rejestruje. Techniczne kwestie połączenia dwóch programów ze sobą, czyli co udostępnia każdy z nich i co się dzieje, gdy jeden się zmienia, to osobny temat. Osobnym tematem jest też obrona przed zwodniczymi instrukcjami ukrytymi w dokumentach albo wiadomościach, które czyta asystent: to inne ryzyko, z własnymi środkami zaradczymi.