Agenci AI w przemyśle: jak ograniczać „konfabulacje” i chronić dane firmy?

W przemyśle AI działa przez wyspecjalizowanych agentów wspierających, a nie zastępujących człowieka. - Sztuczna inteligencja może zrozumieć kontekst pracy, dzięki czemu możemy dowiedzieć się więcej – mówi Ireneusz Borowski, country manager Poland w Dassault Systemes. Kluczowe są praca na „twardych” danych, minimalizacja ryzyka błędnych odpowiedzi oraz fizyczna separacja danych wrażliwych.

• Agenci AI mają jasno wyodrębnione kompetencje i współpracują z ludźmi jako asystenci, nigdy ich nie zastępując, co zwiększa bezpieczeństwo i kontrolę nad procesami.
• Dane wrażliwe są fizycznie odseparowane i pozostają wyłącznie w domenie przedsiębiorstwa, co zapobiega nieautoryzowanemu dostępowi, nawet w ramach łańcuchów dostaw.
• Specjalistyczne agenty minimalizują ryzyko generowania błędnych odpowiedzi dzięki pracy na twardych danych i kontekstowemu zawężaniu zakresu działań.

W przemyśle sztuczna inteligencja funkcjonuje na znacznie wyższym i bardziej specjalistycznym poziomie niż powszechnie używane narzędzia, takie jak ChatGPT. Kluczową różnicą jest konieczność pracy na bardzo wrażliwych, cyfrowych danych przedsiębiorstwa, które nie mogą być udostępniane na zewnątrz.

- Tu nie ma mowy o jakichkolwiek trikach. Nie dzielimy się tego typu danymi. Z drugiej strony, pełna dostępność cyfrowych danych to podstawa do wykorzystywania najnowszych narzędzi, do tego, by ułatwiały nam pracę, podpowiadały. Sztuczna inteligencja może zrozumieć kontekst naszej pracy, cel zadanego pytania, dostrzec obszary, w jakich potrzebujemy pomocy. Dzięki temu możemy dowiedzieć się więcej – mówi Ireneusz Borowski, country manager Poland w Dassault Systemes podczas rozmowy przeprowadzonej na Europejskim Kongresie Gospodarczym.

Agenci AI, tacy jak Aura, Leo i Marie (w przypadku Dassault), mają wyraźnie zdefiniowane obszary kompetencji i wspierają użytkowników w analizie ogromnych zbiorów danych, pomagając identyfikować obszary problemowe i sugerować działania, ale zawsze pod nadzorem człowieka. W przemyśle wykorzystywane są zaawansowane modele 3D, które umożliwiają analizę komponentów i procesów produkcyjnych w kontekście przestrzennym.

Zasady działania agentów AI i minimalizacja ryzyka „konfabulacji”

Według Ireneusza Borowskiego, w przeciwieństwie do powszechnie dostępnych modeli, które mogą generować nieprecyzyjne lub wymyślone odpowiedzi w celu zadowolenia użytkownika, przemysłowi agenci AI pracują na konkretnych, twardych danych związanych z procesami produkcyjnymi, co minimalizuje ryzyko błędów.

- Agent rozumie kontekst, widzi, w którym miejscu jesteśmy. Tym samym zawężamy pole poszukiwań, więc ograniczamy jego możliwość konfabulacji. Jeśli te warunki są spełnione, minimalizujemy takie ryzyko prawie do zera – zapewnia Ireneusz Borowski.

Znaczenie ma także zadawanie precyzyjnych i kontekstowych pytań, co ogranicza możliwość „przekombinowania” odpowiedzi. Różni agenci pełnią odmienne role – jeden dostarcza wiedzę teoretyczną opartą na nauce, drugi operuje na konkretnych procesach technologicznych, a trzeci wspomaga analizę i podejmowanie decyzji.

Przykładem takiego zastosowania jest agent Leo, który potrafi szybko zidentyfikować procesy produkcyjne nieoptymalne lub sprawiające problemy jakościowe, a następnie podjąć działania takie jak „zamrożenie” tych procesów do dalszej analizy oraz powiadomienie odpowiednich osób – mistrzów lub szefów produkcji. Wszystkie operacje wykonuje pod nadzorem człowieka i z pełnym raportowaniem, co podkreśla transparentność i bezpieczeństwo wdrożenia takich rozwiązań.

Bezpieczeństwo danych i wymiana informacji w łańcuchach dostaw

Ireneusz Borowski mocno akcentuje problem bezpieczeństwa danych w środowisku przemysłowym. Podkreśla, że dane wrażliwe są fizycznie odseparowane i dostępne wyłącznie dla przedsiębiorstwa, co uniemożliwia innym podmiotom „buszowanie” w tych zbiorach.

- Jednocześnie istnieje warstwa danych, które mogą być bezpiecznie wymieniane z podwykonawcami i kontrahentami, co jest konieczne w nowoczesnych, cyfrowych łańcuchach dostaw. Stosujemy własne centra danych oraz hybrydowe modele chmurowe z zabezpieczeniami fizycznymi, co gwarantuje kontrolę nad danymi i ich poufność – deklaruje Ireneusz Borowski.

***

Nagranie zrealizowane w ramach współpracy Dassault Systemes