Naukowcy z Seul National University opracowali dwie technologie, które mają usprawnić działanie sztucznej inteligencji na urządzeniach mobilnych. Pierwsza zmniejsza ilość danych wysyłanych do analizy na serwerze, druga skraca czas oczekiwania na odpowiedź asystenta AI po powrocie do niego z innej aplikacji.

TACToC: wysyłać tylko to, co potrzebne AI

Gdy smartfon, samochód autonomiczny czy robot przesyła obraz z kamery do zdalnego serwera, zwykle używa się kompresji wideo projektowanej z myślą o ludzkim oku. Algorytm sztucznej inteligencji potrzebuje jednak innych informacji niż widz oglądający film, więc część przesyłanych danych jest dla niego zbędna.

Zespół kierowany przez prof. Kyunghana Lee stworzył system TACToC, który wybiera i przesyła wyłącznie cechy obrazu istotne dla konkretnego zadania. Co ważne, jeden koder obsługuje wiele zadań naraz. Zamiast trenować go od nowa, wystarczy zmienić niewielki „prompt” opisujący zadanie. Przy dodaniu nowej funkcji trzeba wyuczyć tylko kilka dodatkowych tokenów.

• koszt komunikacji spadł od 1,5 do 14,5 raza w porównaniu z istniejącymi metodami, a utrata dokładności nie przekroczyła 3 punktów procentowych,
• testy objęły pięć zadań: segmentację semantyczną, estymację pozy, opisywanie obrazów, klasyfikację i szacowanie głębi,
• przełączenie zadania wymaga aktualizacji około 1900 parametrów i trwa ok. 12,5 milisekundy,
• w warunkach zbliżonych do realnej sieci mobilnej zużycie pasma było o ok. 16,7% niższe niż przy kompresji H.265.

System można wdrożyć bez zmian w architekturze sieci, co może się przydać w autonomicznych pojazdach, dronach, robotach i inteligentnym monitoringu.

mzCache: AI, która nie „zapomina” po przełączeniu aplikacji

Asystenty AI działające bezpośrednio na telefonie mają zaletę w postaci lepszej prywatności, bo dane nie opuszczają urządzenia. Mają też wadę: nawet kompaktowy model potrafi zajmować około 5–7 GB pamięci. Gdy użytkownik przechodzi do aparatu czy gry, system operacyjny odbiera pamięć asystentowi, a po powrocie trzeba ją odtworzyć. Pomiary badaczy pokazały, że czas do pierwszej odpowiedzi rośnie wtedy z 0,8 do około 16 sekund. Przy dużym obciążeniu AI może zostać całkiem zamknięta, a historia rozmowy przepada.

mzCache dzieli pamięć AI na małe porcje, dzięki czemu system oddaje tylko tyle, ile potrzebują inne aplikacje. Po powrocie do asystenta jednocześnie liczy procesor graficzny i odtwarzany jest brakujący fragment danych przez CPU. Pamięć jest zwalniana od późniejszych warstw modelu, a odtwarzana od wcześniejszych.

• czas do pierwszej odpowiedzi skrócił się 2,1–5,5 raza w porównaniu z metodami opartymi na zapisie do pamięci masowej (testy m.in. na Galaxy S25+ i OnePlus 12),
• przy całkowitym odzyskaniu pamięci odpowiedź była nawet 25,9 raza szybsza niż w domyślnym podejściu Androida,
• w 45-minutowym teście z 10 aplikacjami AI z mzCache działała przez cały czas, a bez niego była za każdym razem zamykana,
• rozwiązanie działa jako aplikacja na Androida, bez modyfikacji jądra systemu.

Co to oznacza dla użytkowników w Polsce

To na razie prace naukowe, przyjęte na konferencję ACM MobiCom 2026 w Austin, a nie gotowe produkty. Artykuł nie podaje, czy i kiedy któreś z rozwiązań trafi do komercyjnych telefonów lub sieci, więc na razie trudno mówić o konkretnych terminach dla polskich użytkowników.

Problem opisany w mzCache jest jednak znany każdemu, kto korzysta z asystentów AI działających lokalnie: po wyjściu do innej aplikacji rozmowa potrafi wczytywać się długo albo zaczyna się od nowa. Ponieważ lokalne przetwarzanie danych jest atrakcyjne także z punktu widzenia prywatności, w tym wymogów obowiązujących w UE, tego typu optymalizacje mogą z czasem zyskać na znaczeniu. Z kolei oszczędność pasma, o którą dba TACToC, mogłaby być ważna tam, gdzie wiele urządzeń przesyła obraz do chmury, np. w monitoringu czy systemach pojazdów.

Autorzy zapowiadają dalsze prace: obsługę sytuacji, w których równolegle działa kilka aplikacji AI, oraz szerszą gamę procesorów mobilnych, w tym jednostek NPU.

Źródło: Tech Xplore – „New communication and memory tools reduce AI data traffic and response delays”