Jeszcze niedawno rozmowy o AI koncentrowały się wokół modeli. Dziś coraz częściej dotyczą infrastruktury. Nie dlatego, że serwery są ciekawsze od algorytmów, ale dlatego, że to właśnie infrastruktura zaczyna decydować o tym, czy projekty AI będą opłacalne, bezpieczne i możliwe do skalowania.
Wiele organizacji znajduje się obecnie na podobnym etapie. Mają za sobą pierwsze wdrożenia, pierwsze modele działające produkcyjnie i pierwsze doświadczenia z wykorzystaniem GPU. Wtedy pojawiają się pytania, których wcześniej nikt nie zadawał:
- Czy rzeczywiście potrzebujemy kolejnych akceleratorów?
- Jak zabezpieczyć dane przetwarzane przez AI?
- Czy za kilka lat nie okaże się, że jesteśmy całkowicie uzależnieni od jednego dostawcy?
Odpowiedzi często nie znajdują się w samych modelach AI, ale głęboko w architekturze platformy, na której te modele działają.
Zanim kupisz kolejne GPU, sprawdź, czy wykorzystujesz obecne
W świecie sztucznej inteligencji łatwo wpaść w prosty schemat myślenia:
Potrzebujemy więcej AI, więc potrzebujemy więcej GPU.
Tymczasem rzeczywistość bywa zupełnie inna. W wielu środowiskach produkcyjnych akceleratory GPU wykorzystują jedynie część swojej mocy obliczeniowej. Model zajmuje fragment pamięci, odpowiada na zapytanie użytkownika, po czym przez pewien czas czeka na kolejne żądanie. Z perspektywy biznesu oznacza to jedno: bardzo drogi zasób przez znaczną część czasu pozostaje niewykorzystany.
Firmy często próbują rozwiązać ten problem poprzez zakup kolejnych kart lub wynajem większej liczby instancji w chmurze. Tymczasem pierwszym krokiem powinno być zwiększenie wykorzystania już posiadanej infrastruktury.
Dobrze zaprojektowana platforma AI potrafi obsługiwać większą liczbę modeli, użytkowników i procesów bez zwiększania liczby fizycznych akceleratorów.
AI wymaga takiego samego poziomu bezpieczeństwa jak systemy krytyczne
W fazie pilotażu kwestie bezpieczeństwa często schodzą na dalszy plan. Sytuacja zmienia się diametralnie, gdy AI zaczyna przetwarzać dane klientów, dokumenty medyczne, informacje finansowe czy dane obywateli. Wówczas pojawia się nowa perspektywa:
Nie pytamy już wyłącznie, czy model działa poprawnie.
Pytamy również:
- kto współdzieli infrastrukturę
- gdzie znajdują się dane
- czy możliwe jest ich odseparowanie
- czy organizacja będzie w stanie wykazać zgodność z regulacjami
W środowiskach regulowanych bezpieczeństwo nie jest dodatkiem do projektu AI. Staje się jego fundamentem. Dlatego coraz większego znaczenia nabiera architektura zapewniająca izolację pomiędzy poszczególnymi usługami, klientami lub jednostkami organizacyjnymi.
To szczególnie istotne dla:
- administracji publicznej
- ochrony zdrowia
- sektora finansowego
- energetyki
- operatorów infrastruktury krytycznej
Przykład z rynku
Szpital wdrażający asystenta AI dla personelu medycznego
Dla użytkownika najważniejsza jest szybkość działania systemu. Dla organizacji kluczowe staje się jednak pytanie:
Czy dane pacjentów są przetwarzane w środowisku zapewniającym odpowiedni poziom izolacji i zgodności z regulacjami?
Największym ryzykiem AI może być utrata kontroli
Wiele organizacji rozpoczyna przygodę z AI od usług dostępnych „od ręki” w chmurze. To naturalne - pozwala szybko rozpocząć eksperymenty i zweryfikować pomysły biznesowe. Problem pojawia się później. Wraz ze wzrostem liczby modeli, użytkowników i danych rośnie także zależność od konkretnego dostawcy technologii.
To właśnie wtedy organizacje zaczynają zadawać pytania:
- Jak łatwo możemy zmienić dostawcę?
- Ile będzie kosztować migracja?
- Czy nasze dane pozostaną pod naszą kontrolą?
- Czy jesteśmy gotowi na wzrost kosztów usług?
Coraz więcej firm dochodzi do wniosku, że równie ważna jak wydajność jest możliwość zachowania swobody działania. Dlatego rośnie zainteresowanie platformami AI opartymi na otwartych standardach, które mogą działać zarówno w chmurze publicznej, jak i we własnej infrastrukturze.
AI pod kontrolą - podsumowanie
Dyskusja o sztucznej inteligencji często koncentruje się na możliwościach modeli. Tymczasem organizacje, które odnoszą największe korzyści z AI, skupiają się na czymś innym - na kontroli.
- Kontroli nad kosztami
- Kontroli nad bezpieczeństwem
- Kontroli nad własną przyszłością technologiczną
Bo o sukcesie projektów AI coraz częściej decyduje nie to, jak inteligentny jest model, lecz jak świadomie została zaprojektowana infrastruktura, która za nim stoi.
GPU stały się dla sztucznej inteligencji tym, czym centra danych były dla cyfrowej transformacji – strategicznym zasobem, od którego zależy tempo rozwoju całej organizacji.
Dlatego decyzje dotyczące sposobu ich wykorzystania nie powinny być wyłącznie tematem dla administratorów czy architektów infrastruktury. To decyzje biznesowe, które wpływają na koszty operacyjne, bezpieczeństwo danych, dostępność usług i niezależność technologiczną organizacji.
Im wcześniej potraktujemy infrastrukturę AI jako element strategii, a nie wyłącznie zaplecze techniczne, tym łatwiej będzie budować rozwiązania, które pozostaną efektywne również za kilka lat.
Autor:
Michał Torzewicz
Product Manager, Asseco Poland
