Spis treści
Wyzwanie biznesowe
Organizacje wdrażające sztuczną inteligencję często stają przed tym samym dylematem: firma chce wykorzystać sztuczną inteligencję do analizy cennych danych wewnętrznych, ale dane te nie zawsze mogą być przesyłane do publicznych usług AI lub przetwarzane w standardowym środowisku chmury z procesorami graficznymi. Przyczyny mogą obejmować obowiązki regulacyjne, ograniczenia umowne, lokalizację danych, ochronę własności intelektualnej, wewnętrzną politykę bezpieczeństwa lub potrzebę przewidywalnej kontroli kosztów i wydajności.
Właśnie z taką sytuacją mieliśmy do czynienia w naszej firmie. Chociaż większość naszych zadań związanych ze sztuczną inteligencją jest przetwarzana w bezpiecznym i zgodnym z przepisami środowisku chmury, pracujemy z określonymi typami danych, które nie mogą opuszczać naszej siedziby. Te ograniczenia dotyczące zgodności i bezpieczeństwa stanowiły poważną przeszkodę dla naszej strategii rozwoju sztucznej inteligencji. Uniemożliwiały nam one opracowywanie i testowanie nowych rozwiązań opartych na sztucznej inteligencji na niektórych rzeczywistych zestawach danych, ograniczając naszą zdolność do wprowadzania innowacji i budowania praktycznej wiedzy specjalistycznej w kluczowych obszarach. Potrzebowaliśmy rozwiązania, które pozwoliłoby nam pracować z naszymi najbardziej wrażliwymi danymi bez uszczerbku dla bezpieczeństwa i zgodności z przepisami.
Budowa bezpiecznej, prywatnej infrastruktury AI
Podjęliśmy strategiczną decyzję o zaprojektowaniu i uruchomieniu własnej wewnętrznej infrastruktury AI. Wymagało to stworzenia dedykowanego środowiska lokalnego opartego na wysokowydajnych procesorach graficznych, zbudowanego specjalnie do obsługi obciążeń, które były niedostępne w chmurze.
Praca obejmowała praktyczne decyzje, które decydują o tym, czy prywatna infrastruktura AI stanie się użyteczna, czy pozostanie odizolowanym proof of concept:
- określenie, które obciążenia powinny być uruchamiane lokalnie, a które mogą nadal korzystać z zatwierdzonych usług w chmurze,
- ocenę przydatności modelu pod kątem oczekiwanej jakości, przepustowości i ograniczeń infrastruktury,
- weryfikację wydajności procesorów graficznych w oparciu o realistyczne założenia dotyczące obciążenia,
- ustalenie bezpiecznego schematu przetwarzania wrażliwych dokumentów,
- wdrożenie środowiska uruchomieniowego AI, funkcji obsługi modeli oraz kontrolowanego prywatnego punktu końcowego dla wybranych przepływów pracy,
- dodanie możliwości obserwacji i pomiaru, aby wydajność mogła być omawiana w oparciu o dowody, a nie założenia,
- określenie, kiedy wybrane usługi AI w chmurze mogą być nadal bezpiecznie używane po lokalnym przetwarzaniu, anonimizacji lub ocenie ryzyka.
Przekształcenie potrzeby infrastrukturalnej w decyzję inwestycyjną
Podeszliśmy do tej inicjatywy jako do ustrukturyzowanego procesu decyzyjnego, a nie jako do odizolowanego wdrożenia technicznego. Przed zbudowaniem środowiska przeanalizowaliśmy zablokowane obciążenia, wrażliwość danych oraz rodzaj przetwarzania AI, który przyniósłby wartość biznesową.
Platforma ta zapewnia naszym zespołom bezpieczne środowisko do opracowywania i testowania modeli AI z wykorzystaniem wrażliwych informacji. Kluczowe przypadki użycia tej infrastruktury obejmują:
- Analiza wrażliwych dokumentów: umożliwienie przetwarzania z wykorzystaniem sztucznej inteligencji dokumentów prawnych, operacyjnych i wewnętrznych dokumentów biznesowych, które nie mogły opuścić kontrolowanego środowiska.
- Anonimizacja i pseudonimizacja: identyfikowanie i redagowanie danych osobowych lub wrażliwych, tak aby wybrane dane mogły być bezpieczniej ponownie wykorzystywane w dalszych analizach lub hybrydowych procesach AI.
- Prywatna platforma do obsługi modeli: udostępnianie wybranych funkcji AI poprzez kontrolowany wewnętrzny punkt końcowy, dzięki czemu zespoły mogą tworzyć i testować przepływy pracy bez wysyłania poufnych poleceń lub dokumentów poza środowisko.
Rozwiązując ten problem dla siebie, zrobiliśmy coś więcej niż tylko przyspieszyliśmy wdrażanie sztucznej inteligencji w naszej firmie. Zbudowaliśmy praktyczną wiedzę inżynieryjną, którą teraz bezpośrednio wykorzystujemy w projektach dla klientów.
Inicjatywa ta pozwoliła nam skodyfikować hybrydowe podejście architektoniczne i połączyć kontrolę oraz bezpieczeństwo środowiska lokalnego z elastycznością i skalowalnością chmury, stosując każde z tych rozwiązań tam, gdzie ma to największy sens biznesowy i technologiczny.
Obecnie pomagamy klientom projektować i budować infrastrukturę, która wspiera rozwój sztucznej inteligencji, a nie go ogranicza.
Dlaczego ma to znaczenie dla naszych klientów
Wiele organizacji zdaje sobie sprawę, że potrzebuje możliwości AI, ale nie wie jeszcze, czy infrastruktura prywatna jest uzasadniona, jaka klasa sprzętu jest realistyczna, jakiej wydajności można się spodziewać ani jak uniknąć finansowania oderwanego od rzeczywistości proof of concept. Inne już posiadają lub planują zakup infrastruktury GPU, ale nadal potrzebują praktycznej ścieżki od sprzętu do bezpiecznego, przemyślanego i użytecznego.
Niniejszy przypadek ilustruje obie strony: ustrukturyzowaną decyzję inwestycyjną oraz ścieżkę wdrożeniową, która przekształca infrastrukturę w działające możliwości.
Dla klienta stojącego przed podobną decyzją takie podejście pomaga wyjaśnić:
- czy prywatna infrastruktura AI jest uzasadniona w odniesieniu do docelowych danych i procesów;
- który pierwszy proces powinien determinować zakres inwestycji i wdrożenia;
- jakie założenia dotyczące obciążenia są potrzebne przed doborem sprzętu lub przyznaniem budżetu;
- jakie możliwości modelu, profil wydajności i ograniczenia operacyjne są realistyczne;
- co należy wdrożyć w pierwszej kolejności, co zmierzyć w następnej i co odłożyć do czasu sprawdzenia podstaw.
Wniosek jest prosty: prywatna infrastruktura AI powinna być dobierana, projektowana i wdrażana w oparciu o przypadki użycia w biznesie, ograniczenia dotyczące danych oraz mierzalne założenia dotyczące obciążenia. Gdy elementy te zostaną połączone na wczesnym etapie, organizacje mogą podejmować bardziej świadome decyzje dotyczące inwestycji w procesory graficzne, planu wdrożenia, kompromisów w zakresie bezpieczeństwa, modelu operacyjnego oraz selektywnego wykorzystania usług chmurowych tam, gdzie jest to właściwe.
Dla klientów pracujących z poufnymi dokumentami, regulowanymi procesami, chronioną własnością intelektualną lub podlegających surowym wymogom kontroli danych, doświadczenie to stanowi sprawdzony punkt odniesienia dla przejścia od zablokowanej adopcji AI do kontrolowanej, gotowej do wdrożenia prywatnej infrastruktury AI.
Korzyści z tej inicjatywy
- Usunęliśmy kluczowe przeszkody z planu wdrożenia sztucznej inteligencji, umożliwiając rozwój przy użyciu wcześniej niedostępnych zbiorów danych
- Stworzyliśmy bezpieczne środowisko do testowania i wdrażania rozwiązań AI w oparciu o wrażliwe i podlegające regulacjom dane
- Stworzyliśmy sprawdzoną architekturę hybrydową, która łączy bezpieczeństwo rozwiązań lokalnych z elastycznością chmury
- Rozwinęliśmy praktyczną wiedzę inżynierską w zakresie projektowania i wdrażania lokalnej infrastruktury AI, która jest obecnie bezpośrednio wykorzystywana w projektach klientów
- Zapewniliśmy możliwość projektowania infrastruktury lokalnej jako świadomej podstawy strategii AI przedsiębiorstwa
- Zyskaliśmy możliwość uzasadniania wyborów sprzętowych w oparciu o rzeczywiste modele AI i wolumeny danych, ograniczając ryzyko techniczne i kosztowe dla klientów przed wdrożeniem