Organizacje chcą jak najszybciej odkryć, jak wydobyć wartość biznesową z generatywnej sztucznej inteligencji - bez padania ofiarą niezliczonych pułapek.

Krzywa adopcji w tym przypadku stromo pnie się w górę, a większość liderów przedsiębiorstw pod presją czasu pracuje nad wykorzystaniem potencjału technologii, zaledwie kilka miesięcy po tym, jak w listopadzie 2022 r. uruchomiono narzędzie generatywnej sztucznej inteligencji ChatGPT, które wywołało falę entuzjazmu (i zmartwień).

Zobacz również:

• Ten incydent z „katolickim księdzem” pokazuje, jak niebezpieczna może być sztuczna inteligencja
• Blaski i cienie AI

Wystarczy spojrzeć na statystyki: około 45% z 2500 dyrektorów ankietowanych w raporcie firmy badawczej Gartner z maja 2023 r. stwierdziło, że rozgłos wokół ChatGPT skłonił ich do zwiększenia inwestycji w sztuczną inteligencję, 70% stwierdziło, że ich organizacja już bada sztuczną inteligencję, a 19% jest w trybie pilotażowym lub produkcyjnym. Wyniki te są zgodne z niedawnym badaniem Foundry CIO Tech Talk z lipca 2023 r., które wykazało, że 60% liderów IT aktywnie wykorzystuje sztuczną inteligencję w swoim przedsiębiorstwie, a 28% jest w fazie eksploracji.

Według ankiety Foundry, większość liderów IT podnosi kwalifikacje pracowników w zakresie sztucznej inteligencji (54%) i udostępnia użytkownikom narzędzia sztucznej inteligencji (52%), podczas gdy 42% ustanawia zasady i wytyczne dotyczące sztucznej inteligencji. Mimo to liderzy technologiczni, doradcy wykonawczy, konsultanci ds. zarządzania i entuzjaści sztucznej inteligencji zgadzają się, że C-suite stoi w obliczu wielu problemów podczas testowania i wdrażania generatywnej sztucznej inteligencji. Zauważają również, że dyrektorzy ds. informatyki - jako najlepsi technolodzy w swoich organizacjach - będą zajmować się tymi kwestiami, gdy firmy będą ustalać swoje strategie generatywnej sztucznej inteligencji.

Jakie są więc obawy, które skomplikują korporacyjny podręcznik sztucznej inteligencji? Oto zestawienie 20 najważniejszych kwestii kształtujących dzisiejsze strategie AI.

1. Zezwalać czy nie

Według różnych doniesień prasowych, niektóre znane firmy początkowo zablokowały generatywne narzędzia AI, takie jak ChatGPT, z różnych powodów, w tym obaw o ochronę zastrzeżonych danych. Niektóre firmy zniosły swoje zakazy i zezwalają na ograniczone wykorzystanie tej technologii; inne nie.

W miarę jak dostawcy dodają generatywną sztuczną inteligencję do swoich ofert oprogramowania dla przedsiębiorstw, a pracownicy testują tę technologię, dyrektorzy ds. informatyki muszą doradzać swoim kolegom w sprawie zalet i wad korzystania z generatywnej sztucznej inteligencji, a także potencjalnych konsekwencji jej zakazania lub ograniczenia.

"Kwestią nr 1 jest teraz zezwolenie lub nie" - mówi Mir Kashifuddin, lider ds. ryzyka danych i prywatności w PwC US. "Wiele firm jest w trakcie dyskusji na temat tego, czy blokować, czy zezwalać".

Obejmuje to również najwyższe stanowiska dyrektorów ds. technologii, ponieważ sami CIO debatują nad tym, czy naciskać, czy wstrzymywać eksplorację sztucznej inteligencji.

2. Szybko ewoluujące zagrożenia

Firmy, które zablokowały wykorzystanie sztucznej inteligencji, odkrywają, że niektórzy pracownicy nadal ją testują. Zdają sobie również sprawę, że będą musiały nauczyć się wykorzystywać potencjał technologii lub pozostać w tyle.

To sprawia, że organizacje starają się zidentyfikować najbardziej bezpośrednie zagrożenia związane z wdrażaniem pilotów sztucznej inteligencji.

"Zadaniem CIO jest zadawanie pytań o potencjalne scenariusze. CIO powinien rozmawiać o ryzyku" - mówi Mary Carmichael, dyrektor zarządzająca ds. doradztwa w zakresie ryzyka w Momentum Technology i członkini grupy roboczej ds. nowych trendów oraz komitetu doradczego ds. ryzyka w stowarzyszeniu ISACA.

3. Zasady dopuszczalnego użytkowania

Carmichael mówi, że kadra kierownicza ma przed sobą kolejne ważne pytanie, jeśli chodzi o narzędzia takie jak ChatGPT: "Jaki kierunek wyznaczysz teraz swoim pracownikom w zakresie technologii, która jest bezpłatna i dostępna?".

Carmichael mówi, że niedawno zapytała zebranych dyrektorów, czy mają politykę dopuszczalnego użytkowania i tylko nieliczni powiedzieli, że stworzyli ją, aby wskazać swoim pracownikom, co firma uważa za dopuszczalne.

"Pracownicy już pytają: 'Czy powinienem używać tego narzędzia? Kiedy powinienem go używać? Na co powinienem uważać?". Ale w tej chwili IT wydaje się próbować nadrobić zaległości" - mówi Carmichael. "CIO muszą więc pomyśleć o korporacyjnym gen AI z kontrolą; muszą pomyśleć o ustaleniu pewnych zasad".

4. Zakłócenie działalności

Generatywna sztuczna inteligencja to przełomowa technologia, więc dyrektorzy ds. informatycznych i ich koledzy z zarządu muszą rozważyć, czy i w jaki sposób ich firma padnie ofiarą tej siły.

„Jak generatywna sztuczna inteligencja wpływa na twoją firmę? Jak np. ChatGPT wpłynął na twój model biznesowy?" pyta Carmichael, zauważając, że niektóre firmy straciły już znaczną wartość rynkową w obliczu nagłej konkurencji ze strony generatywnej sztucznej inteligencji.

"Jest to problem dla dyrektorów ds. informatyki. Niektórzy oczekują oszczędności kosztów dzięki tej technologii, ale oczekuje się również, że znajdą sposoby na włączenie tej technologii [do produktów swojej firmy] w celu wzmocnienia oferty" - dodaje Carmichael. "W tym miejscu CIO muszą zdobyć wiedzę na temat technologii i zapewnić wskazówki i doradztwo".

5. Budowanie silnika w locie

Jakby tych wyzwań było mało, kadra kierownicza musi działać szybko i radzić sobie, gdy wszystko już działa.

Douglas Merrill, partner w firmie McKinsey & Co. zajmującej się doradztwem w zakresie zarządzania, twierdzi, że dyrektorzy ds. informatyki powinni stosować zwinne procesy w swojej strategii dotyczącej sztucznej inteligencji. "Trzeba uczyć się w miarę postępów, ale robić [iteracje], które są bezpieczne i kontrolowane oraz skupiać się na zarządzaniu ryzykiem" - wyjaśnia.

6. Brak dobrych wytycznych

Ponieważ dyrektorzy ds. informatyki starają się wprowadzić kontrolę i zarządzanie ryzykiem do technologii, która wzbudza powszechne zainteresowanie i wciąż jest w fazie eksperymentów, robią to bez wcześniejszych wskazówek i wsparcia.

"Jedną ze szczególnych kwestii, z którymi wszyscy się borykamy, jest to, że generatywna sztuczna inteligencja jest naprawdę nowa i rozwija się naprawdę szybko, więc nie ma zbyt wielu narzędzi" - mówi Merrill. "Wytyczne dotyczące ryzyka dla generatywnej sztucznej inteligencji są kruche i nowe, i nie ma powszechnie akceptowanego 'Oto jak myśleć o zabezpieczeniach przed ryzykiem'. W końcu będą, ale jeszcze nie istnieją".

7. Szybkie wprowadzanie innowacji

Kolejnym obszarem, którym powinni zająć się dyrektorzy ds. informatyki, jest sposób wykorzystania generatywnej sztucznej inteligencji do wyróżnienia swoich organizacji.

CIO powinni skupić się na tym, "gdzie mogą skutecznie wykorzystać generatywną sztuczną inteligencję. To nie jest młotek. Oni szukają tego, co możliwe. A możliwości jest tak wiele, że trzeba je bezpośrednio dopasować do strategii biznesowej" - mówi Frances Karamouzis, wiceprezes ds. analityki w firmie badawczej Gartner.

Przyznaje, że innowacje technologiczne nie są nowością dla CIO, ale sztuczna inteligencja rzeczywiście stanowi nowe wyzwania ze względu na szybkość jej ewolucji, a także jej moc i złożoność.

"CIO będą musieli wymyślać, edukować i realizować zadania w zupełnie inny sposób, uwzględniając szybkość i elastyczność rozwiązań" - dodaje Karamouzis.

8. Identyfikacja i priorytetyzacja przypadków użycia

Firma badawcza IDC stwierdziła w swoim badaniu Generative AI Findings from Enterprise Intelligence Services Survey z maja 2023 r., że prawie 70% nabywców usług wywiadowczych dla przedsiębiorstw rozważa lub aktywnie pracuje nad przypadkami użycia generatywnej sztucznej inteligencji.

Firmy potrzebują sposobu na gromadzenie, weryfikację i ustalanie priorytetów pomysłów na wykorzystanie technologii z korzyścią dla przedsiębiorstwa.

"CIO powinni przede wszystkim ustalić jasną mapę drogową wdrażania generatywnej sztucznej inteligencji. Niezależnie od tego, czy cele dotyczą wzrostu produktywności, czy innych korzyści komercyjnych, muszą one być zgodne z [całym C-suite] na mapie drogowej przed dokonaniem wyboru technologii, umożliwiających realizację mapy drogowej" - mówi Goh Ser Yoong, szef działu zgodności w Advance.AI i członek grupy roboczej ISACA Emerging Trends Working Group.

Karamouzis twierdzi, że CIO muszą wykorzystać swoje wcześniejsze doświadczenie w ustalaniu priorytetów inicjatyw opartych na technologii i zastosować tę samą dyscyplinę do pomysłów związanych ze sztuczną inteligencją, aby zapewnić, że ich organizacje mądrze inwestują.

W swoim badaniu IDC stwierdziło, że przypadki użycia o najwyższym priorytecie należą do kategorii zarządzania wiedzą, generowania kodu oraz projektowania i inżynierii produktów lub usług. Kupujący najczęściej zgadzali się z opinią, że generatywna sztuczna inteligencja umożliwi ich pracownikom skupienie się na zadaniach o wyższej wartości. Kupujący najczęściej nie zgadzali się z opinią, że generatywna sztuczna inteligencja narazi ich na większe ryzyko.

Badanie Foundry dotyczące sztucznej inteligencji wykazało, że dyrektorzy ds. informatyki w handlu detalicznym są liderami w identyfikowaniu przypadków użycia (49%), a za nimi plasują się liderzy IT w sektorach produkcji (42%), technologii (42%) i usług finansowych (32%).

9. Kupuj vs. modyfikuj vs. buduj

Firmy mogą wprowadzać generatywną sztuczną inteligencję do swoich organizacji na trzy różne sposoby, a dyrektorzy ds. informatyki będą decydować, który sposób będzie dla nich najlepszy.

Firma McKinsey opracowała własne ramy, które opisują różne typy zastosowań jako "taker", "shaper" i "maker".

Taker używa tego, co zbudował ktoś inny, wykorzystując możliwości prosto z pudełka. Shaper kształtuje i dostosowuje takie możliwości do własnych potrzeb lub własnych zastrzeżonych danych. Maker - najrzadziej spotykany z trzech typów, jak mówi Merrill z McKinsey - ma największą potrzebę posiadania struktury i kontroli, a zatem zbuduje własne modele, aby spełnić swoje wysoce wyspecjalizowane wymagania.

10. Gotowość przedsiębiorstwa

Niezależnie od tego, czy firma jest takerem, shaperem czy makerem, będzie potrzebować nowoczesnego stosu technologicznego i polityki danych, aby skutecznie korzystać z generatywnej sztucznej inteligencji.

"Dane, struktury w chmurze, sieć obliczeniowa i pamięć masowa, to z pewnością zakres odpowiedzialności CIO" - mówi Karamouzis, dodając, że CIO mają również obowiązek zidentyfikować i wyeliminować wszelkie wąskie gardła lub bariery w stosie technologicznym lub danych, które mogą uniemożliwić ich organizacjom realizację wyznaczonych celów w zakresie generatywnej sztucznej inteligencji. "CIO są tymi, którzy będą budować technologię, aby to umożliwić" - dodaje.

11. Prywatność i bezpieczeństwo danych

W połowie wiosny 2023 r. południowokoreańska firma Samsung zakazała pracownikom korzystania z narzędzi generatywnej sztucznej inteligencji po odkryciu, że część jej wewnętrznego kodu źródłowego została przesłana do ChatGPT. Inne firmy obawiają się, że ich pracownicy robią to samo, mówi Kashifuddin.

"Ponieważ pracownicy wchodzą w interakcje z tymi narzędziami, firmy muszą upewnić się, że nie wprowadzają zastrzeżonych danych, które są przesyłane z powrotem do podstawowych modeli" - dodaje.

Dyrektorzy oczekują od swoich CIO, a także menedżerów danych i kierowników ds. prywatności, podjęcia działań, opracowania zasad zarządzania, wdrożenia kontroli i wdrożenia narzędzi monitorujących, aby upewnić się, że pracownicy przestrzegają zasad dopuszczalnego użytkowania i nie ujawniają zastrzeżonych danych i własności intelektualnej.

12. Przestrzeganie przepisów dotyczących danych i prywatności

Kolejną kwestią, przed którą stoją dyrektorzy ds. IT - a także ds. danych, zgodności, ryzyka i bezpieczeństwa - jest: jak monitorować i zapewnić, że pracownicy nie naruszają przepisów dotyczących prywatności danych i najlepszych praktyk ochrony danych, jeśli korzystają z generatywnej sztucznej inteligencji.

"Kiedy umieszczasz swoje dane w silniku AI kontrolowanym przez kogoś innego, tracisz kontrolę nad tymi danymi" - ostrzega Carl Froggett, CIO w Deep Instinct, twórca platformy cyberbezpieczeństwa.

13. Potrzeba ścieżki audytu

Według ekspertów, CIO są również proszeni o opracowanie sposobów rozpoznawania i kontrolowania wyników generatywnej sztucznej inteligencji, aby zapewnić, że wyniki są dokładne, bezstronne i wolne od naruszeń chronionej własności intelektualnej.

Jak wyjaśnia Carmichael: "Odpowiedzialna i wytłumaczalna AI to kolejne wyzwania, z którymi CIO będą musieli sobie poradzić".

14. Nowe regulacje

Rządy na całym świecie debatują nad tym, czy i jak uregulować wykorzystanie sztucznej inteligencji. Podczas gdy korporacyjne działy prawne i zewnętrzni doradcy pomogą kadrze kierowniczej rozeznać się w tym, co oznaczają dla nich nowe przepisy, CIO będą mieli do odegrania rolę w zapewnieniu zgodności technologii AI w przedsiębiorstwie z wszelkimi nowymi przepisami.

"CIO muszą być na bieżąco ze zmieniającymi się przepisami i ramami prawnymi związanymi z wykorzystaniem sztucznej inteligencji, takimi jak niedawna ustawa Unii Europejskiej o sztucznej inteligencji" - powiedział Goh. "Zgodność z przepisami o ochronie danych, regulacjami dotyczącymi własności intelektualnej, wytycznymi branżowymi i standardami etycznymi ma kluczowe znaczenie. CIO powinni ściśle współpracować z zespołami prawnymi, aby zrozumieć i zająć się wszelkimi konsekwencjami prawnymi związanymi z generatywną sztuczną inteligencją".

15. Obawy dotyczące dokładności

Kashifuddin i inni zwracają uwagę na to, aby dyrektorzy ds. informatyki pomagali swoim organizacjom i samym pracownikom w przyjmowaniu procedur zapewniania jakości, które weryfikują wszelkie spostrzeżenia generowane przez sztuczną inteligencję. Obejmuje to wdrożenie kontroli jakości w IT dla każdego kodu, z którego chcą korzystać programiści, dodaje Kashifuddin.

Konsekwencje zaniedbania tego kroku mogą być znaczące, jak pokazują niektóre dobrze nagłośnione przykłady. Jednym z godnych uwagi przykładów jest przypadek nowojorskiego prawnika, który stanął przed sądem po tym, jak złożył dokument prawny sporządzony przy użyciu ChatGPT, który zawierał cytaty z przypadków prawnych wymyślonych przez tę technologię.

16. Wymagania dotyczące podnoszenia kwalifikacji

Sztuczna inteligencja szybko zmienia zapotrzebowanie na umiejętności i talenty IT, a pracownicy w całej organizacji będą musieli nauczyć się pracować z generatywnymi narzędziami AI.

W międzyczasie pracownicy IT muszą przekwalifikować się do pracy z narzędziami generatywnej sztucznej inteligencji, aby wykonywać swoją pracę i zdobywać umiejętności wymagane do wspierania technologii w miarę jej wykorzystywania w całej organizacji.

Jak mówi Goh: "CIO muszą ocenić luki w umiejętnościach w swoich działach IT i zapewnić odpowiednie szkolenia i zasoby, aby zrozumieć potrzeby i skutecznie pracować z generatywną sztuczną inteligencją".

17. Zagrożenia dla cyberbezpieczeństwa związane ze sztuczną inteligencją

Kolejnym obszarem budzącym obawy dyrektorów ds. informatycznych jest sposób, w jaki hakerzy wykorzystują generatywną sztuczną inteligencję.

"Mówimy o nowym poziomie wyrafinowania [hakerów] w tworzeniu e-maili i wiadomości oraz omijaniu danych biometrycznych, ponieważ generatywna sztuczna inteligencja przyjmuje osobowość, maniery i frazy, których użyłaby prawdziwa osoba" - mówi Froggett, dodając, że generatywna sztuczna inteligencja może generować fałszywe filmy i dźwięki, które wydają się autentyczne.

Takie wyrafinowane ataki mogą sprawić, że istniejące mechanizmy kontroli bezpieczeństwa, takie jak uwierzytelnianie głosowe, staną się przestarzałe - zmuszając CIO i CISO do szybkiego znalezienia alternatyw.

"Kontrole, które mieliśmy na miejscu, mogą nie działać z powodu tego, co już robi generatywna sztuczna inteligencja" - dodaje Froggett.

18. Zdenerwowani pracownicy

W raporcie z marca 2023 r. Goldman Sachs obliczył, że około dwóch trzecich obecnych miejsc pracy "jest narażonych na pewien stopień automatyzacji sztucznej inteligencji, a generatywna sztuczna inteligencja może zastąpić nawet jedną czwartą obecnej pracy". Innymi słowy, firma stwierdziła, że równowartość 300 milionów pełnoetatowych miejsc pracy może zostać utracona na rzecz automatyzacji.

"Istnieje duża niepewność. Ludzie zastanawiają się: "Jak to wpłynie na moją karierę? Czy muszę się przekwalifikować?" mówi Carmichael.

„Jako część zespołu wykonawczego, CIO powinni pracować nad zaangażowaniem swoich pracowników i rozwiązywaniem ich obaw. Sztuczna inteligencja stworzy miejsca pracy - i być może więcej niż to, co zostanie utracone” - dodaje. Jest to przesłanie, którym CIO również mogliby się podzielić, stawiając czoła drażliwemu wyzwaniu związanemu z zarządzaniem zmianą w zakresie sztucznej inteligencji.

19. Wiodąca zmiana dzięki nowej technologii

CIO będą w gronie kadry kierowniczej odpowiedzialnej za przeprowadzenie swoich organizacji przez wszystkie zakłócenia, jakie ma przynieść sztuczna inteligencja.

Carmichael i inni twierdzą, że CIO w naturalny sposób nadają się do tej pracy; budowali swoje umiejętności w tej przestrzeni przez ostatnią dekadę, prowadząc swoje organizacje przez transformację cyfrową.

Niektórzy twierdzą jednak, że przeprowadzenie nadchodzącej zmiany będzie się różniło od wcześniejszych scenariuszy zarządzania zmianą, ponieważ tempo adopcji i zakłócenia, jakie niesie ze sobą sztuczna inteligencja, mogą przyćmić poprzednie rewolucje technologiczne.

"Tempo zaskoczyło wszystkich, a teraz musimy za nim nadążyć" - mówi Carmichael. "Pytanie brzmi więc, jak dobrze sobie z tym wszystkim poradzić i pewnie iść naprzód".

20. Łączenie zespołów

CIO oczywiście nie jest w stanie poradzić sobie z tymi wszystkimi kwestiami samodzielnie - ani też nie powinien próbować. Jednak jako główny technolog w wielu organizacjach, CIO będzie prawdopodobnie kluczowym doradcą zespołu wykonawczego w zakresie zagrożeń i możliwości, jakie niesie ze sobą sztuczna inteligencja.

"CIO umożliwia lub wyposaża, działa jako moderator, doradca i osoba dostarczająca" - mówi Karamouzis. "Tak więc teraz rola CIO jest jedną z integralnych ról w C-suite, pomagając innym zrozumieć całą listę rzeczy, które należy zrobić".

Artykuł pochodzi z CIO.com