Szef BBN o granicy, której AI nie powinna przekroczyć

„Czy chcemy, żeby AI współpracowała z człowiekiem, dawała mu pewne atrybuty, szanse, szybkość – te mityczne końskie kopyta – ale żeby dowodzenie cały czas zostawało przy ludzkiej głowie? Czy jednak będziemy takim Minotaurem, w którym zostanie już tylko ludzki korpus, a cała decyzyjność zostanie przekazana sztucznej inteligencji?” – pytał Grodecki podczas Cyber24 Days na PGE Narodowym.

Drugi scenariusz uznał za poważne zagrożenie. Wskazał, że w przekazie medialnym coraz częściej pojawia się obraz, w którym ChatGPT zastępuje umysł i pracę ludzką. Pytanie, jak daleko może to zajść, dotyczy już nie tylko technologii, ale instytucji.

„Czy to wejdzie do sądownictwa, gdzie w oparciu o zasoby danych będą wydawane wyroki? Czy to wejdzie na przykład do służby zdrowia, gdzie sztuczna inteligencja może być pomocą dla lekarza, ale nie może stanowić podstawy do określenia stanu zdrowia pacjenta? To są wyzwania, przed którymi stoimy” – mówił szef BBN.

Grodecki odniósł się też do ryzyka, że same narzędzia AI mogą stać się wektorem ataku. Wspomniał o dwóch firmach, które wykryły, że ich rozwiązania mogą być wykorzystywane do penetracji systemów – „To są więc bardzo poważne wyzwania, jeśli chodzi o AI. Natomiast kierunek i wykorzystanie tych narzędzi są jak najbardziej konieczne” – podkreślił.

Grodecki wskazywał tam, że cyberprzestrzeń jest kolejną domeną walki obok lądu, morza i powietrza, a zagrożenia z niej płynące wymagają współpracy państwa, biznesu i społeczeństwa.