Michał Podlewski: Czym dokładnie jest GHOST DAY i jaka historia stoi za Waszą intrygującą nazwą?

Piotr Wyrwiński (Opiekun KN GHOST): GHOST to skrót od Group of Horribly Optimistic STatisticians, czyli Grupa Strasznie Optymistycznych Statystyków, i ta nazwa całkiem dobrze oddaje naszą historię. Wszystko zaczęło się, gdy dr Mateusz Lango prowadził zajęcia ze statystyki na Politechnice Poznańskiej. Grupa ambitnych studentów chciała wyjść poza program, a że Mateusz robił wtedy doktorat z uczenia maszynowego, skierował ich na słynny kurs Machine Learning Andrew Ng na platformie Coursera. To naturalnie przerodziło się w regularne spotkania, a z nich powstało Koło Naukowe GHOST. Nazwa została, bo dobrze oddaje ducha tamtych początków, kiedy studenci byli, delikatnie mówiąc, strasznie (buu!) optymistyczni co do tego, jak daleko zaprowadzą ich statystyka i sam entuzjazm. Okazało się, że całkiem daleko.

Dziś GHOST to organizacja studencka zajmująca się badaniami i nauką w obszarze uczenia maszynowego. Co semestr prowadzimy grupy tematyczne i zespoły projektowe z różnych dziedzin ML. W tym semestrze mamy sekcje obejmujące m.in. TinyML, obliczenia kwantowe dla ML, duże modele językowe, robotykę, a także zespół budujący system predykcji powodzi z wykorzystaniem głębokich sieci neuronowych i danych satelitarnych. Mogliście nas też spotkać na hackathonach, konkursach Kaggle czy innych konferencjach.

GHOST Day: Applied Machine Learning Conference to nasze flagowe wydarzenie. Chcemy stworzyć przyjazną, pełną energii przestrzeń, w której entuzjaści ML mogą wymieniać się doświadczeniami i być na bieżąco w dziedzinie, która zmienia się niesamowicie szybko. Wśród naszych prelegentów są naukowcy publikujący na czołowych konferencjach takich jak NeurIPS czy ICML, a także eksperci z firm tworzących produkty oparte na uczeniu maszynowym. Konferencja nie jest przywiązana do żadnego konkretnego języka programowania ani technologii, chodzi o techniki, metody i algorytmy. Traktujemy ją też jako punkt wejścia dla utalentowanych inżynierów, którzy chcą wkroczyć w świat AI, poprzez prezentacje na średniozaawansowanym poziomie, sesję posterową, gdzie uczestnicy mogą pokazać własne projekty, i bezpośredni kontakt z firmami z branży.

Wydarzenie nosi podtytuł Applied Machine Learning Conference. Czy to sygnał dla uczestników, że kładziecie nacisk przede wszystkim na realne wdrożenia i rozwiązywanie problemów, a nie tylko na czystą teorię akademicką?

Szymon Czajkowski (GHOST Day Project Leader): Zdecydowanie tak - nazwa Applied Machine Learning Conference to dla nas obietnica, że nie zostajemy wyłącznie w sferze teorii. Chociaż fundamenty akademickie są dla nas niezwykle ważne (w końcu wywodzimy się z Politechniki Poznańskiej), jednym z naszych celów jest pokazanie, jak te zaawansowane koncepcje „pracują” w realnym świecie.

To właśnie to „Applied” jest sercem naszej społeczności. Chcemy, aby uczestnicy wychodzili z GHOST Day z poczuciem, że AI to nie tylko fascynująca teoria z artykułów naukowych, ale przede wszystkim narzędzie, które mogą zastosować w swoich projektach. Łączymy rygor naukowy z praktycznym „know-how”, bo wierzymy, że dopiero to połączenie pozwala budować skuteczne rozwiązania zmieniające rzeczywistość.

Do kogo przede wszystkim kierujecie tę konferencję? Czy program jest ułożony wyłącznie pod studentów kierunków informatycznych, czy odnajdzie się tu każdy pasjonat nowoczesnych technologii?

Jakub Bilski (Marketing Team): Myśląc “nowoczesne technologie” w 2026 roku nasze oczy najprawdopodobniej kierują się na hasło “sztuczna inteligencja”. Punktem zapalnym tego całego “zamieszania” była z pewnością premiera ChataGPT w 2022 roku. Ma to z pewnością zalety - branża AI/ML nabrała rozpędu, o którym poprzednie pokolenia inżynierów mogły przez dziesiątki lat jedynie pomarzyć. Dziś AI przenika niemal każdą dziedzinę i stała się jednym z głównych kierunków rozwoju technologii.

Trzeba jednak mieć z tyłu głowy, że wraz z popularnością pojawiła się również pewna powierzchowność. AI bywa sprowadzana do prostych, efektownych zastosowań, które dobrze „klikają się” w mediach, ale niekoniecznie oddają złożoność tej dziedziny. W efekcie łatwo o spłycenie dyskusji i błędne wyobrażenia o tym, czym faktycznie jest sztuczna inteligencja, której istotną częścią jest właśnie Machine Learning.

GHOST Day istniał na długo przed wejściem AI do mainstreamu. I to w dużej mierze definiuje charakter naszej konferencji. GHOST Day to wydarzenie o charakterze inżynieryjnym i badawczym. Skierowane przede wszystkim do osób, które mają już pewne podstawy i chcą wejść poziom wyżej. Na konferencje w końcu nie przyjeżdża się po to, aby sprawdzać swoją wiedzę, a ją poszerzać.

Dlatego nie zamykamy drzwi przed nikim, a informatyka to nie jedyny słuszny kierunek. Równie mile widziani są analitycy, statystycy czy inżynierowie innych specjalizacji. Wymagamy jednak pewnej technologicznej dojrzałości. Aby nikogo nie rozczarować, zawsze otwarcie komunikujemy: GHOST Day nie jest kursem z obsługi komercyjnych narzędzi AI. Nie będziemy tu uczyć, jak wygenerować zabawny filmik ani jak rozmawiać z chatbotami.

Tegoroczna agenda imponuje rozpiętością – od wykrywania błędów w LLM, przez analizę mammografii i onkologię precyzyjną, aż po AI w boksie czy robotykę w sortowniach odpadów. Jak udało Wam się połączyć tak skrajne dziedziny w jeden spójny program?

Szymon Czajkowski (GHOST Day Project Leader): Nasza filozofia jest prosta: budujemy wydarzenie, które ma być miejscem dla każdego pasjonata technologii, niezależnie od tego, nad czym aktualnie pracuje. Chcemy łączyć wielorakie zainteresowania spod szyldu AI i ML, tworząc jedną wspólną społeczność.

Dlatego obok medycyny czy sportu w programie znajdą się tak różnorodne tematy jak Self-Supervised Learning, polegający na uczeniu modeli wyciągania wniosków bez zestawu etykiet, czy systemy neuromorficzne, które czerpią inspirację bezpośrednio z biologicznej budowy mózgu. Rozmawiamy o wiarygodności modeli (Model Science), ale też o bardzo praktycznych wdrożeniach, jak chociażby automatyczna analiza milionów dokumentów za pomocą modeli wizyjno-językowych.

To właśnie ta różnorodność sprawia, że GHOST Day nie jest kolejną zamkniętą konferencją dla wąskiej grupy specjalistów. Wierzymy, że mimo różnych wyzwań technicznych to właśnie ta wymiana doświadczeń i wspólna pasja budują naszą unikalną społeczność.

Wśród zaproszonych gości są eksperci z takich gigantów jak Meta i Mistral AI, a także naukowcy z topowych uczelni: ETH Zürich, University of Edinburgh czy Charles University. Jak udało Wam się przyciągnąć do Poznania nazwiska, które na co dzień publikują na najważniejszych konferencjach na świecie?

Wiktor Kamzela (Speakers Coordinator): Corocznie staramy się budować agendę tak, żeby przede wszystkim była jak najciekawsza – szukamy osób, które nie tylko prowadzą przełomowe badania, ale również chętnie dzielą się swoją wiedzą i inspirują innych. To, że wśród zaproszonych osób są eksperci, którzy publikują prace na najważniejszych konferencjach jest efektem ogromnego wysiłku całego zespołu organizującego konferencję.

Największym wyróżnieniem i docenieniem naszej pracy jest to, że wielu prelegentów nie tylko chętnie wraca na konferencję w roli uczestników, ale również z nami współpracuje, a także poleca nasze wydarzenie swoim znajomym, którzy później zostają naszymi prelegentami. Konferencja z roku na rok się rozwija, a to sprawia, że jesteśmy w stanie zapraszać osoby, które jeszcze kilka lat temu nawet by nie pomyślały, żeby przyjechać na konferencję organizowaną przez studentów z Poznania, a teraz widzą w nas ciekawą alternatywę do konferencji głównego nurtu.

Na uczestników czekają stoiska partnerów. Czy to dobry moment, by przynieść ze sobą CV i porozmawiać o konkretnych ofertach pracy lub stażach?

Adam Dobosz (Sponsors Coordinator): Z pewnością! Przy stoiskach sponsorskich będzie można porozmawiać bezpośrednio z przedstawicielami firm i dowiedzieć się o aktualnych ofertach pracy oraz stażach. W tym roku wystawią się m.in. (kolejność alfabetyczna): Allegro, AMD, Datarabbit, Google i Pearson.

GHOST Day przyciąga najlepszych studentów i ekspertów z branży AI/ML, co czyni go jednym z największych skupisk talentów w tej dziedzinie w Polsce. Firmy doskonale o tym wiedzą i traktują wydarzenie jako realną okazję do rekrutacji, a uczestnicy – zarówno stawiający pierwsze kroki w branży, jak i doświadczeni specjaliści – jako szansę na rozmowę o pracę.

Konferencje to nie tylko nauka, to także networking. Macie jakieś plany na integrację uczestników?

Lidia Wiśniewska (Finance and Logistics Coordinator): Oczywiście. Wierzymy, że najbardziej wartościowe pomysły rodzą się właśnie na styku różnych perspektyw, często w mniej formalnych okolicznościach. Dlatego po pierwszym dniu inspirujących wykładów zapraszamy naszych uczestników na wieczór networkingowy w centrum Poznania. Zależy nam na stworzeniu przestrzeni do swobodnej wymiany doświadczeń i nawiązania relacji, które zostaną z uczestnikami na lata, a może nawet przerodzą się w konkretny, wspólny projekt w przyszłości.

Dodatkowo, harmonogram obu dni zakłada przerwy kawowe i networkingowe. To idealny moment, by na świeżo przedyskutować usłyszane prelekcje lub po prostu porozmawiać z ludźmi z branży.

Na koniec proszę o zaproszenie czytelników trajektorie.pl (i nie tylko) do udziału w waszym wydarzeniu (ja osobiście też zapraszam):

Jędrzej Ogrodowski (Marketing Coordinator): Zapraszamy Was na GHOST Day: AMLC 2026 - świetną okazję, by zobaczyć, nad czym pracują zespoły badawcze z wyżej wspomnianych czołowych ośrodków, nawiązać nowe kontakty i rozwinąć swoje zainteresowania. Przed nami dwa dni pełne inspirujących wystąpień, rozmów z ekspertami, wymiany doświadczeń, dobrej kawy - i nie tylko. Wydarzenie odbędzie się 8 i 9 maja w Centrum Wykładowym Politechniki Poznańskiej. Do zobaczenia!

Dołącz do Nas: https://ghostday.pl/#tickets

LinkedIn

Twitter/X

Już 23-25 stycznia Warszawa stanie się stolicą europejskiej robotyki. Podczas hackathonu studenci i inżynierowie z czołowych europejskich uczelni zmierzą się z realnymi wyzwaniami w obszarze manipulatorów i wdrażaniu rozwiązań. Dlaczego warto tam być? O kulisach wydarzenia opowiada współorganizator, Paweł Budzianowski.

Michał Podlewski: Tempo robotyzacji w Polsce na tle czołówki Europy i świata wciąż pozostawia sporo do życzenia. To dziwne, bo tyka u nas bomba zegarowa w postaci kryzysu demograficznego, więc powinniśmy być prymusem automatyzacji. Wasz hackathon adresuje ten problem, zachęcając młodych do budowania rozwiązań “tu i teraz”. Czy uważasz, że takie oddolne inicjatywy są w stanie wypełnić tę lukę, czy może potrzebujemy wręcz systemowego wsparcia państwa?

Paweł Budzianowski: Potrzebujemy zarówno oddolne inicjatywy jak i systemowego myślenia. Jestem tutaj dobrej myśli bo patrząc w perspektywie ostatnich dwóch lat jest coraz więcej oddolnych inicjatyw, większe zainteresowanie inwestorów oraz mocniejsze przenikanie się świata naukowego z aplikacjami.

Wasz hackathon ma charakter międzynarodowy, wiem, że spłynęło mnóstwo zgłoszeń z zagranicy. Skąd dokładnie przyjadą do nas ekipy i jak udało Wam się ściągnąć ich do Warszawy?

To fajna historia bo ze studentami z Technical University of Munich widzieliśmy się przypadkowo na kolacji i w jej trakcie zrobiliśmy projekt wydarzenia. Dwa miesiące później będziemy się widzieć znowu już w większym gronie! Będziemy mieli studentów (i nie tylko) z UK, Niemiec czy US dlatego, że mało jest wydarzeń gdzie jest możliwość pracy na dobrym sprzęcie i z prawdziwymi danymi.

W którą stronę według Ciebie zmierzamy z rozwojem robotyki – jaka jest obecna trajektoria?

Jesteśmy na początku drogi w której modele zaczynają uczyć się w pełni z danych. Będzie to długi i powolny proces, ale autonomiczne auta pokazują, że ta zmiana nadchodzi.

Jakie “zabawki” przygotowaliście dla inżynierów? Wzmianka o kartach Nvidia B200 czy ramionach LeRobot robi wrażenie – co dokładnie uczestnicy będą mogli z tym zrobić?

Przygotowaliśmy roboty humanoidalne, bi-manual arms używane przez wiodące firmy i uniwersytety, dużo compute (B200s) oraz prawdziwe dane w dużej ilości. Wszystko co trzeba by budować modele robotyczne na światowym poziomie.

Na koniec krótko: Gdybyś miał przekonać zdolnego studenta lub inżyniera, dlaczego w dniach 23-25 stycznia musi być w LUTE HQ w Warszawie – co byś mu powiedział? Co straci, jeśli go tam nie będzie?

Pierwszy raz mamy w naszym regionie na wyciągnięcie ręki świat nowoczesnej robotyki - jeśli myślisz o poznaniu go lepiej to musisz koniecznie wpaść!

***

dr Paweł Budzianowski to ekspert w dziedzinie sztucznej inteligencji i robotyki z doktoratem Uniwersytetu w Cambridge. Jako były szef zespołu ML w PolyAI oraz współzałożyciel K-Scale Labs, posiada bogate doświadczenie w tworzeniu systemów konwersacyjnych i robotów humanoidalnych. Łączy biznes z nauką, współtworzył kursy NLP na Uniwersytecie Warszawskim i Jagiellońskim, a obecnie rozwija nowy projekt koncentrujący się na Embodied AI.

Linki:

Link do Hackathonu

Strona Pawła Budzianowskiego

Lute

Informacje o wydarzeniu:

📅 23–25 stycznia 2026
📍 Warszawa
👥 Drużyny Inżynierów (zespoły 2–4 osobowe)
👉 Aplikuj tutaj: https://luma.com/pw75o77j

Kategorie (podgląd) 🤖

- YAM Arms: wyzwanie 100% skuteczności z wykorzystaniem 100 godzin rzeczywistych danych (możliwy udział zdalny).

- LeRobot Arms: manipulacja i deployment oparty na danych (data-driven)
Exoskeleton Track

- Free Track: realizacja własnego projektu – od hardware’u po software.

Zaplecze techniczne

Hardware: 20× jednostek YAM, 20× ramion SO-101.

Współdzielona moc obliczeniowa: jednostki GPU klasy B200.

Co na Ciebie czeka: Praca z realnymi robotami, danymi oraz wymogami wdrożeniowymi.

👀 Teaser: Projekt wspierany przez GenR – nową, ogólnoeuropejską inicjatywę robotyczną. Więcej szczegółów już wkrótce.

Nagrody 🏆

GoPro Max 2

2× ramiona LeRobot SO-101

2× silniki DAMIAO DM-J4310

Specjalna Nagroda Publiczności

Cognitive offloading, czyli nawyk przenoszenia wysiłku myślowego na technologię, to jedno z największych wyzwań epoki AI. Co się dzieje, gdy lekarz zbyt mocno zaufa algorytmowi? Opowiada o tym Barbara Klaudel – ekspertka sztucznej inteligencji łącząca świat IT, edukacji i medycyny. Jest inżynierką, która tworzy zaawansowane systemy AI dla szpitali, a jednocześnie... zaleca swoim studentom rozwiązywać zadania na kartce papieru. Rozmawiamy między innymi o tym, czy polska służba zdrowia jest gotowa na cyfrową rewolucję i czego inżynierowie nie rozumieją w pracy lekarza.

Zajmujesz się tworzeniem rozwiązań opartych o sztuczną inteligencję w medycynie, ale jednocześnie przytomnie ostrzegasz przed skutkami bezkrytycznego i nadmiernego polegania na technologii. Badanie z udziałem Polaków opublikowane w czasopiśmie The Lancet Gastroenterology & Hepatology, wykazało, że wprowadzenie sztucznej inteligencji wspomagającej kolonoskopię wiąże się ze zmniejszeniem zdolności endoskopistów do wykrywania zmian przedrakowych. Wskaźnik wykrywania gruczolaka spadł aż o 20%. Czy to właśnie takie wyniki temperują Twój entuzjazm?

Barbara Klaudel: Wyniki badań1 pokazujące spadek skuteczności diagnostycznej po wprowadzeniu AI, takie jak obniżenie wskaźnika wykrywania gruczolaków w kolonoskopii, nie temperują mojego entuzjazmu wobec sztucznej inteligencji jako takiej. Raczej potwierdzają one zagrożenia, które środowisko AI w medycynie dostrzegało od dawna. Różnica polega na tym, że dziś AI stała się powszechnym narzędziem także poza wąskimi zastosowaniami klinicznymi. Kiedyś trzeba było ludzi przekonywać do korzystania z AI, dzisiaj ten entuzjazm trzeba momentami hamować.

Już przy pracy nad moim pierwszym projektem AI, czyli systemem do oceny złośliwości guzów nerek2 z 2020 roku, diagnozę AI umieściliśmy dopiero po decyzji lekarza. Model prezentował swoją ocenę dopiero po diagnozie radiologa, a rozbieżności traktowane były jako sygnał do pogłębionej diagnostyki.

Ponadto, mieliśmy świadomość, że AI wpływa na proces diagnostyczny i naszą rolą jest zadbać, żeby AI pełniła rolę wsparcia, a nie zastępstwa lub czynnika utrudniającego pracę specjalistów.

Dużo wcześniejsze badania pokazują, że niezależnie od deklarowanego sceptycyzmu czy entuzjazmu wobec AI, lekarze i tak w istotnym stopniu opierają się na decyzjach systemów wspomagających. Stąd pojawiają się propozycje alternatywnych protokołów współpracy człowieka z AI (np. RAM czy Hound Protocol), które regulują moment ujawnienia rekomendacji modelu (przed lub po samodzielnej decyzji lekarza), aby ograniczyć niepożądany wpływ automatyzacji.

Problem nie dotyczy rzecz jasna tylko lekarzy. W Twoim artykule „Jak AI sprawia, że studenci stają się głupi i co możemy z tym zrobić?3” zwracasz uwagę, że teksty pisane przez studentów zaczynają niebezpiecznie przypominać te z ChatGPT. Pomimo zakazu wykorzystania AI w zadaniu, spora część grupy i tak bezrefleksyjnie po nią sięgnęła, co skończyło się niezaliczeniem przedmiotu przez 40% studentów. Czy sytuacja z nadmiernym wykorzystywaniem AI jest już na tyle poważna, że to właśnie ona przyczyniła się do Twojej rezygnacji z pracy akademickiej po 4 latach?

Nie tyle samo wykorzystanie AI przez studentów było dla mnie problemem, a raczej przyzwolenie na taki stan przez władze uczelni i innych wykładowców. Kiedy próbowałam dyskutować o nadmiernym i bezrefleksyjnym korzystaniu z AI, często spotykałam się ze złośliwym uśmieszkiem i komentarzami w stylu: “rynek pracy ich zweryfikuje”. Często mówili tak lubiani przez studentów wykładowcy, którzy mieli ich tak naprawdę gdzieś.

W edukacji mówi się o problemie iluzji mistrzostwa. Ucząc się nowego zagadnienia, często nie jesteśmy w stanie trafnie ocenić, na ile naprawdę je rozumiemy. Proces uczenia się niemal zawsze wiąże się z wysiłkiem, dyskomfortem i koniecznością wielokrotnego powtarzania materiału. Bez tego nie dochodzi do rzeczywistego zrozumienia. Często mówi się o tym problemie w kontekście aplikacji Duolingo do nauki języków. Zdobywamy punkty, odblokowujemy poziomy, ale jak przyjdzie, co do czego, to nie jesteśmy w stanie sformułować spójnej wypowiedzi.

AI jest nowym wyzwaniem w edukacji, ale nie jedynym. Wyzwań było i będzie znacznie więcej. Problemem był brak przestrzeni do rozmowy o zmianach i brak gotowości do szukania rozwiązań. Zamiast tego spotykałam się z podejściem polegającym na zamiataniu problemu pod dywan.

Na marginesie moja rezygnacja nie trwała długo, bo od października znów uczę. Tym razem z powrotem na Politechnice Gdańskiej. Pośrednio skłoniła mnie do tego prof. Joanna Mytnik, dyrektorka Centrum Nowoczesnej edukacji na Politechnice Gdańskiej. Po lekturze mojego artykułu zaprosiła mnie do wystąpienia w organizowanym przez nią cyklu spotkań dla nauczycieli. To doświadczenie uświadomiło mi, że są w środowisku osoby, które naprawdę chcą coś zmieniać, a jeśli nie na jednej uczelni, to być może na innej.

We wspomnianym tekście napisałaś: ,,Myślenie krytyczne jest kluczowym elementem edukacji. Kiedy studenci korzystają z AI do generowania ich prac zaliczeniowych, to tak naprawdę outsource'ują swoje zdolności poznawcze. To zjawisko otrzymało nawet swój własny termin naukowy - "cognitive offloading". W umiejętności pisania nie chodzi o to, żeby umieć zapełnić kartkę słowami. Chodzi o umiejętność formułowania myśli, organizowania swoich pomysłów oraz skutecznej ich komunikacji.” Oprócz pisania, rekomendujesz również powrót do korzeni – Twój projekt Computer Vision Worksheets4 uczy studentów algorytmów za pomocą kartki i długopisu. Jak przekonać pokolenie Digital Natives, że warto męczyć się z kartką papieru, skoro biblioteka w Pythonie zrobi to w 3 sekundy?

Z mojego doświadczenia takie zadania na wykładach, spotykają się z pozytywnym odbiorem. Inną sprawą jest sięganie do takich rozwiązań samodzielnie przez studentów. W tym semestrze na przykład rozpoczęliśmy pierwsze zajęcia od rozwiązywania zagadki kryminalnej inspirowanej popularną serią Murdle.

Problem nie polega więc na tym, że studenci nie lubią takich form pracy, lecz raczej na tym, że nie sięgają po nie samodzielnie. Z moich obserwacji na polskich uczelniach wynika, że brakuje nawyku systematycznej nauki. Dla porównania, oglądając wykłady z uczelni amerykańskich, widzę, że studenci regularnie otrzymują zadania do wykonania przed i po zajęciach: konkretne rozdziały, wybrane artykuły, materiały, z którymi należy się zapoznać jeszcze przed wykładem. U nas zazwyczaj kończy się to na karcie przedmiotu i ogólnej liście literatury.

Próbowałam przenosić te praktyki na własne zajęcia: sugerowałam krótkie teksty, podcasty czy inne lekkie materiały do zapoznania się przed wykładem. Niestety, studenci praktycznie w ogóle z nich nie korzystali, o ile znajomość materiałów nie była weryfikowana wejściówką.

Powrót do kartki papieru działa na studentów odświeżająco. Przyniesienie na zajęcia ilustrowanej karty pracy, zagadki czy zadania wymagającego czytania ze zrozumieniem jest dla nich czymś zupełnie innym niż standardowy wykład.

Główną motywacją do robienia kart prac były dla mnie problemy z koncentracją. Większość osób (nie tylko studentów) ma dziś trudność z utrzymaniem uwagi przez dłuższy czas. Karty pracy wymagają skupienia i aktywnego myślenia i wydaje mi się, że dobrze odpowiadają na problemy poznawcze.

Przeczytałem w Twojej rozmowie dla „Gazety Wyborczej”, że Twoi rodzice są lekarzami. Medycynę masz w genach, ale wybrałaś komputery, a swój pierwszy model stworzyłaś jeszcze w liceum. Co było tym pierwszym impulsem, który sprawił, że zamiast stetoskopu wybrałaś klawiaturę i kod, by ostatecznie i tak połączyć świat uczenia maszynowego z medycyną?

Takim głównym impulsem była dla mnie potrzeba sprawczości. Lubiłam rzeczy, które mogę zrobić sama i szybko przełożyć na coś praktycznego, nie ważne czy chodziło o uszycie czegoś na maszynie, czy wytrenowanie modelu AI. Zawód lekarza kojarzył mi się głównie z późnym wracaniem do domu, zmęczeniem i przewlekłym stresem. Bardzo szanuję ten zawód i wyniosłam przez to z domu etos pracy “po coś”, ale mam raczej predyspozycje techniczne.

Jednocześnie rozmowy o wyzwaniach ochrony zdrowia i codzienności lekarzy bardzo mnie ukształtowały i naturalnie skierowały do szukania obszarów, w których technologia może medycynie pomóc.

Otrzymałaś prestiżowe stypendium Fulbrighta na studia doktoranckie w USA. Mimo to zdecydowałaś się zostać w Polsce. Czy uważasz, że innowacje na światowym poziomie można z powodzeniem robić stąd, bez wyjeżdżania do Doliny Krzemowej?

Mówiąc w pełni szczerze nie jestem przekonana. Zdecydowałam się zostać w Polsce, bo bardzo silnie motywuje mnie chęć realnego wpływu na system ochrony zdrowia tutaj. Teraz jest ten moment, gdzie AI wchodzi do szpitali. Jest to związane między innymi z dużymi środkami na technologię, m.in. z Krajowego Planu Odbudowy, powstające Centra Medycyny Cyfrowej, a także nadchodzące regulacje europejskie, jak ustawa o European Health Data Space, która umożliwi wykorzystywanie danych medycznych do badań naukowych. Z drugiej strony użytkownicy po doświadczeniach z korzystania z ChataGPT też są już trochę oswojeni z tematem AI.

Czy za granicą byłoby łatwiej? Bardzo możliwe. Rynek amerykański jest nieporównywalnie większy, szybszy i bardziej otwarty na wdrażanie nowych technologii. Gdybym kierowała się przede wszystkim chęcią szybkiego sukcesu, skalowania produktu czy aspektami finansowymi, pewnie próbowałabym swoich sił w USA. Tam wiele problemów, które w Polsce są barierą systemową, jak choćby integracja rozwiązań AI z systemami szpitalnymi, są po prostu techniczną formalnością.

Wasz projekt UMIE (Universal Medical Imaging Encoding), współtworzony z TheLion.ai to w istocie w dużej mierze praca archeologiczna – zbiór danych zawiera ponad milion obrazów (CT, MRI, RTG) z różnych źródeł, tworząc jeden z największych zbiorów tego typu na świecie. Jakie były największe wyzwania przy porządkowaniu tego cyfrowego chaosu i dlaczego zdecydowaliście się udostępnić ten projekt całkowicie za darmo?

“Cyfrowy chaos” i “praca archeologiczna” faktycznie trwale oddają charakter projektu. Największym wyzwaniem okazał się brak spójnej ontologii w danych medycznych. Istnieje kilka międzynarodowych ontologii i standardów, ale w praktyce każdy oznacza dane, jak mu pasuje. To prowadzi do wielu nieoczywistych problemów, jak np. “regionalizmy”. Wbrew pozorom radiologia nie jest uniwersalna. Przykładem jest często spotykane w polskich opisach sformułowanie „serce podparte na przeponie”. Kiedy próbowałam przetłumaczyć je na angielski przy okazji pisania artykułu naukowego, okazało się, że nie istnieje ono w żadnym słowniku medycznym. Jedynym miejscem, gdzie znalazłam to sformułowanie, było forum dla polskich lekarzy pracujących w Wielkiej Brytanii, którzy mieli dokładnie ten sam problem.

Do tego dochodzi fakt, że wiele publicznie dostępnych zbiorów obrazów nie spełnia standardów diagnostycznych. Dlatego kluczowa była dla mnie współpraca z lekarzami. Mam tu ogromny komfort, bo moja mama jest radiologiem i wielokrotnie odbywałyśmy wielogodzinne konsultacje, próbując wspólnie zrozumieć, “co autor miał na myśli” w danym opisie.

W naszym zespole mamy osoby zarówno z kompetencjami technicznymi, medycznymi, a nawet techniczno-medycznymi. Projekt rozwijamy już od czterech lat. Zaczął się jako projekt zaliczeniowy na studia. Część osób, takich jak Piotr Frąckowski pracuje z nami nieprzerwanie od początku. W szczytowych momentach zespół liczył około dziesięciu osób, a łącznie przez projekt przewinęło się ich około dwudziestu.

Dlaczego UMIE udostępniamy za darmo? Problem z dostępem do danych i brakiem standardów przy pracy z obrazami radiologicznymi jest powszechny. Próba uporządkowania ma sens, gdy staje się wspólną infrastrukturą, którą inni mogę rozbudowywać.

Jesteś współtwórczynią platformy Medalion5, która bezpiecznie integruje się z infrastrukturą szpitalną, aby zapewnić zautomatyzowaną analizę danych opartą na sztucznej inteligencji. Jakie są kluczowe zastosowania tego rozwiązania w codziennej pracy lekarzy i czy polskie szpitale są mentalnie i technologicznie gotowe na takie rozwiązania?

Pomysł na Medalion narodził się z obserwacji, które wynieśliśmy z wcześniejszych projektów realizowanych w ramach grupy badawczej TheLion.AI. Bardzo często spotykaliśmy tam lekarzy-innowatorów, którzy mimo licznych barier organizacyjnych i technologicznych, samodzielnie próbowali wdrażać nowe rozwiązania w swoich szpitalach. Były to zarówno projekty z zakresu druku 3D, autorskie programy do analizy powikłań pooperacyjnych, jak i narzędzia do harmonogramowania pracy, tworzone dlatego, że dostępne systemy szpitalne nie odpowiadały ich realnym potrzebom.

Znając takich pionierów, doszliśmy do wniosku, że kompetencje i zainteresowanie po stronie lekarzy już są. Brakowało natomiast bezpiecznego i uporządkowanego środowiska, swoistego test bedu, które pozwalałoby im eksperymentować, testować i rozwijać rozwiązania oparte na AI w warunkach możliwie bliskich realiom szpitalnym, ale bez ryzyka dla pacjentów i infrastruktury. Tak powstał Medalion, platforma pełniąca rolę piaskownicy AI, w której pozwala lekarzom “wyklikać” własny model AI bez konieczności bycia programistą.

Z jednej strony maksymalnie upraszczamy sam proces budowy modelu. Z drugiej absolutnie nie chcemy upraszczać etapu oceny i weryfikacji. Wręcz przeciwnie: bardzo zależy nam na tym, aby proces walidacji był jak najbardziej przejrzysty i zrozumiały dla lekarza.

Zastosowań Medaliona jest bardzo wiele. Część z nich ma charakter stricte naukowy, na przykład prace nad algorytmami wspierającymi diagnostykę, gdzie platforma stanowi pierwszy etap tworzenia rozwiązania, które później podlega dalszej, formalnej walidacji. Przykładami są modele do przewidywania ryzyka sepsy czy określonych powikłań pooperacyjnych. Dużym zainteresowaniem cieszą się jednak również zastosowania administracyjno-zarządcze, które nie ingerują bezpośrednio w proces diagnostyczny, a jednocześnie realnie odciążają personel medyczny. Przykładami takich rozwiązań są transkrypcja notatek, predykcja czasu trwania operacji i inteligentne harmonogramowanie pracy bloków operacyjnych, aby lepiej wykorzystać dostępne zasoby lub automatyczne generowanie epikryz, czyli podsumowań hospitalizacji.

Jeśli chodzi o gotowość polskich szpitali, zmiana, którą obserwujemy na przestrzeni ostatnich pięciu lat, jest ogromna. Jeszcze kilka lat temu sztuczna inteligencja była tematem konferencyjnych ciekawostek. Dziś jesteśmy w zupełnie innym miejscu: nie pytamy już “czy”, tylko “jak” wdrażać takie rozwiązania, jakie są na to środki i jakie problemy chcemy nimi rozwiązać. Otwartość po stronie szpitali wyraźnie rośnie, choć oczywiście wciąż istnieją wyzwania organizacyjne, technologiczne i regulacyjne.

Otrzymujecie zapytania z całego świata, nawet z Australii. Czy rok 2026 będzie dla Was czasem na odważniejsze umiędzynarodowienie waszych projektów?

Tak, jak najbardziej. W szczególności dotyczy to naszej grupy badawczej TheLion.ai, w ramach której pracujemy nad otwartymi, open-source’owymi rozwiązaniami dla ochrony zdrowia.

Do tej pory The Lion.ai funkcjonowało głównie w zespołach polskich, a część naszych projektów była silnie osadzona w lokalnym kontekście, jak chociażby medyczne modele językowe dostosowane do specyfiki języka polskiego. Są jednak również inicjatywy, które z natury mają potencjał międzynarodowy, na przykład wspomniane już UMIE, czyli zbiór obrazów medycznych, który bez przeszkód mógłby być rozwijany przez zespół złożony z ekspertów z różnych krajów.

Dlatego jednym z naszych planów na 2026 rok jest stopniowe otwieranie TheLion.ai na współpracę międzynarodową, także poprzez większe wykorzystanie języka angielskiego. Mamy wiele projektów, z których już dziś korzystają użytkownicy na całym świecie, i chcielibyśmy zaprosić więcej osób do współpracy.

Jednocześnie chcę podkreślić, że naszym priorytetem pozostaje Polska. Wchodząc w 2026 rok, a zarazem drugi rok działalności Medalion Technology, jesteśmy bardzo pozytywnie nastawieni i konsekwentnie chcemy tworzyć polskie AI dla ochrony zdrowia.

Tworzycie rozwiązania, które odpowiadają na realne potrzeby lekarzy i służby zdrowia. W jakich obszarach medycyny sztuczna inteligencja jest dziś najbardziej przydatna i „dowozi” największą wartość?

Największe zainteresowanie widzimy w obszarach, które odciążają lekarzy od żmudnej biurokracji. Przykładem są rozwiązania do transkrypcji notatek głosowych lub wsparcie w uzupełnianiu dokumentacji medycznej. Choć nie są to najbardziej widowiskowe zastosowania sztucznej inteligencji, odpowiadają na bardzo konkretne potrzeby i pozwalają lekarzom zaoszczędzić cenny czas. Zastosowań AI jest oczywiście znacznie więcej, a potrzeby poszczególnych placówek mogą się różnić. Nasza platforma Open Workflows umożliwia korzystanie z różnych typów rozwiązań, a jednocześnie pozwala na ich elastyczne dostosowanie, na przykład poprzez użycie konkretnych szablonów czy łączenie danych z wielu źródeł.

Z kolei w przychodniach często widzimy także potrzebę uporządkowania wyników badań przechowywanych w różnych formatach. W odpowiedzi na to oferujemy rozwiązanie LabExtract, które potrafi automatycznie wydobywać informacje z wyników badań laboratoryjnych zapisanych w postaci plików PDF i mapuje je do wspólnej ontologii.

Dodatkowo, wraz z rozwojem Regionalnych Centrów Medycyny Cyfrowej, rośnie zapotrzebowanie na usystematyzowanie danych zapisanych w formie opisowej. Dlatego opracowaliśmy narzędzia takie jak MedalioNER, służący do parametryzacji tekstów, oraz AnonimiNER, który umożliwia anonimizację treści. W polach tekstowych mogą bowiem pojawiać się praktycznie dowolne informacje, również dane osobowe, nawet jeśli formalnie nie powinny się tam znaleźć.

Statystyki są nieubłagane - ponad 90% projektów AI w medycynie kończy się porażką. Co z Twojej perspektywy jest głównym zabójcą tych projektów?

Jak to bywa z modną technologią, bardzo często wdrażamy AI po to, żeby “wdrożyć AI”. Robimy to, żeby móc się pochwalić technologią, nazwać firmę “AI-first”, pokazać inwestorom lub udziałowcom, że jesteśmy nowocześni. Natomiast zbyt rzadko zadajemy sobie fundamentalne pytanie: po co właściwie to AI ma powstać i jaki realny problem ma rozwiązywać.

Głównym problemem jest więc brak koncentracji na konkretnym, rzeczywistym problemie użytkownika końcowego. Skuteczne zastosowanie AI wymaga bardzo dobrej znajomości procesu, do którego to rozwiązanie ma zostać wdrożone. W medycynie oznacza to konieczność ścisłej współpracy interdyscyplinarnej, pomiędzy środowiskiem medycznym a zespołami technologicznymi, oraz bardzo dobrej komunikacji. Trzeba umieć przetłumaczyć potrzeby i problemy personelu medycznego na wymagania technologiczne, a następnie wdrożyć narzędzie w taki sposób, by faktycznie wspierało codzienną pracę, a nie generowało dodatkowe obciążenie.

Oczywiście nie jest to proste, sama stosuję różne podejścia łącznie z shadowingiem lekarzy, czyli obserwowaniu dnia pracy, jak podejmują decyzje, na co poświęcają czas i z jakimi innymi oddziałami się komunikują. Dodatkowo, jako firma korzystamy z narzędzi takich jak Data Innovation Board czy Medical Data Innovation Board, prostych narzędzi, które zmuszają do przejścia od jasno zdefiniowanego problemu, przez analizę kontekstu i ograniczeń, po wstępny projekt rozwiązania i sposób mierzenia jego skuteczności.

Poza tym jako Medalion Technology oferujemy darmowe konsultacje potencjalnym klientom i jeśli nie widzimy sensu użycia AI to odradzamy klientowi projekt lub sugerujemy użycie innej technologii.

AI powinno być narzędziem do rozwiązywania problemów, tylko, gdy faktycznie jest najlepszym rozwiązaniem. Jeśli problem da się rozwiązać problem lub jeśli w ogóle nie jest postrzegany jako istotny przez odbiorców to inwestowanie w AI nie ma sensu.

Czego, Twoim zdaniem, inżynierowie najczęściej nie rozumieją w pracy lekarzy? I w drugą stronę – co lekarze powinni koniecznie wiedzieć o ograniczeniach technicznych AI, by ta współpraca układała się pomyślnie?

Jako inżynierowie często patrzymy na medycynę jako zestaw problemów do zoptymalizowania i nie mamy świadomości, o różnych zależnościach organizacyjnych, prawnych albo emocjonalnych, które sprawiają, że proces wygląda w taki sposób.

Dla mnie uderzającym momentem była wypowiedź profesor Judy Gichoya z Emory University, której słuchałam w podcaście “AI Ground Rounds”. Bardzo często mówi się, że sztuczna inteligencja zdejmie z radiologów proste przypadki, jakieś oczywiste złamania czy rutynowe badania, a lekarze będą mogli skupić się tylko na tych trudnych, bardziej skomplikowanych. I technicznie to brzmi sensownie, ale jeśli odciążymy radiologa z łatwych przypadków, to zostaną mu wyłącznie te najcięższe nowotwory złośliwe, czyli same dramaty ludzkie. Skoro sama uznałam, że nie chcę pracować jako lekarz, bo to jest zbyt ciężki zawód, to tym bardziej nie chciałabym sprawić, żeby lekarzom było jeszcze trudniej.

Z drugiej strony, po stronie lekarzy dużo czasu poświęcamy na rozmowy o tym w jakich warunkach model AI będzie działał skutecznie, a w jakich nie należy z niego korzystać. Ważne jest także uświadamianie ryzyk, takich jak wspomniany już problem cognitive offloading.

Dlatego dobra współpraca między inżynierami a lekarzami wymaga, żebyśmy my naprawdę nauczyli się rozumieć proces kliniczny, a nie tylko dane, a jednocześnie żeby lekarze rozumieli, jak korzystać z tych systemów, gdzie są ich granice i jakie niosą ze sobą ryzyka.

Czy Twoim zdaniem unikalne zbiory danych o zdrowiu Polaków mogą stać się naszym narodowym atutem? Czy bezpieczne uwolnienie dostępu do tych zasobów pozwoliłoby nam uzyskać przewagę w tworzeniu spersonalizowanej medycyny na dużą skalę?

Jeśli chodzi o uwalnianie danych medycznych Polaków, to jest to temat, do którego należy podejść ostrożnie. Oczywiście nie chodzi o ich sprzedaż za granicę, lecz o to, aby służyły rozwiązywaniu realnych problemów zdrowotnych w Polsce i poprawie jakości opieki nad pacjentami. Istnieją już podejścia, takie jak federated learning, które pozwalają tworzyć zaawansowane modele AI bez konieczności ujawniania czy przenoszenia danych pacjentów pomiędzy jednostkami.

W perspektywie europejskiej, m.in. dzięki regulacjom takim jak EHDS, pojawia się szansa na bezpieczny dostęp do danych medycznych na dużą skalę i rozwój spersonalizowanych rozwiązań, takich jak “cyfrowe bliźniaki” pacjentów, wspierające np. dobór najlepszych terapii. Kluczowe jest jednak, aby rozwój AI w medycynie odbywał się na naszych zasadach: z udziałem polskich zespołów, od etapu przygotowania danych po budowę modeli, tak aby wytwarzana wartość pozostawała w kraju i realnie przekładała się na poprawę zdrowia Polaków.

Na koniec: jakie działania systemowe musiałby podjąć nasz rząd, aby umożliwić rozwój takich technologii jak Wasze i nie zmarnować potencjału młodych, utalentowanych Polaków?

Przy okazji KPO, często padało sformułowanie, które bardzo mnie uderzyło: “mamy pieniądze do wydania”. Moim zdaniem dużym problemem jest to, że przy okazji wielkich projektów takich, jak KPO myślimy o nich z perspektywy pieniędzy do wydania, a nie problemów do rozwiązania.

Potrzebne jest szerokie, systemowe podejście do projektów innowacyjnych. Inspirujący model funkcjonuje np. w Wielkiej Brytanii, gdzie przy grantach na tworzenie nowych rozwiązań publicznych proces dzieli się na etapy: najpierw szczegółowa analiza problemu i określenie wymagań technicznych, potem finansowanie stworzenia pierwszej wersji prototypowej, następnie testy na szerszą skalę z udziałem użytkowników, aż wreszcie wdrożenie finalnego rozwiązania.

Poza tym każdy etap realizowany jest przez inną firmę, w związku z tym rozwiązanie jest dobrze udokumentowane i łatwe do zintegrowania z innymi systemami. Kod projektów dostępny jest open-source, dzięki czemu można go rozwijać i utrzymywać w dłuższej perspektywie.

Rząd powinien też wspierać rozwój liderów w Polsce, którzy potrafią skutecznie transformować kluczowe obszary, jak ochrona zdrowia czy inne sektory publiczne. Mamy wielu wybitnych Polaków pracujących “u kogoś”, ale mało mamy przykładów sukcesów budowanych od początku do końca w Polsce.

Rząd powinien też wspierać rozwój liderów w Polsce, którzy potrafią skutecznie transformować kluczowe obszary, jak ochrona zdrowia czy inne sektory publiczne, zamiast koncentrować się wyłącznie na tym, że Polacy świetnie sprawdzają się pracując dla innych. Potrzebne jest systemowe wsparcie w planowaniu projektów, zarządzaniu nimi i tworzeniu środowiska, w którym młodzi, zdolni ludzie mogą realizować swoje pomysły na dużą skalę.

***

Barbara Klaudel – inżynierka i ekspertka sztucznej inteligencji, specjalizująca się w technologiach medycznych. Współzałożycielka grupy badawczej TheLion.ai, z którą udostępniła największy na świecie otwarty zbiór danych obrazowania medycznego (UMIE). Jako współtwórczyni Medalion Technology wdraża systemy AI w polskich szpitalach. Wykłada na Politechnice Gdańskiej, gdzie uczy studentów i lekarzy. Aktywnie dzieli się wiedzą, tworząc materiały edukacyjne i promując odpowiedzialny rozwój AI.

Linki:

1. Profil w serwisie LinkedIn

2. Profil w serwisie Medium

3. Profil na platformie Most Wiedzy

4. Strona TheLion.ai

5. Strona Medalion Technology

6. Computer Vision Worksheets

Poprzednie rozmowy na stronie trajektorie.pl

#12 Maria Wyrzykowska (Molecule.one), Piotr Sotniczuk (Nomagic.ai) oraz Kamil Bladoszewski (AWS) z ML in PL zdradzają kulisy organizacji największej konferencji uczenia maszynowego w regionie.

#11 Jan Betley (Truthful AI), dr inż. Anna Sztyber-Betley (Politechnika Warszawska) zaskakujących generalizacjach w dużych modelach językowych

#10 Dr hab. Piotr Sankowski (Prof. Uniwersytetu Warszawskiego) o Instytucie Badawczym IDEAS

#9 Dr Paweł Gora (Uniwersytet Jagielloński, Warsaw.ai) o tym, że dziś sam kod to za mało

#8 Sebastian Kondracki (Fundacja SpeakLeash, Bielik.ai) o rozwoju Bielika i polskiej AI

#7 Dr inż. Bartosz Ptak (Politechnika Poznańska) o robotyce kosmicznej i projekcie PUT-ISS

#6 dr hab. Agata Starosta (Prof. IBB PAN), dr hab. Artur Obłuski (Prof. UW), dr hab. Kinga Kamieniarz-Gdula (Prof. UAM), dr hab. Michał R. Gdula (UAM), dr Joanna Karolina Malinowska (UAM) o nauce jako polskiej racji stanu

#5 Dr inż. Anna Sztyber-Betley (Politechnika Warszawska) o bezpieczeństwie AI i alignmencie

#4 Dr Wiktoria Mieleszczenko-Kowszewicz (Politechnika Wrocławska) o manipulacjach i efektywnej współpracy z AI

#3 Dr Bartosz Naskręcki (UAM) o benchmarku FrontierMath i przyszłości matematyki w dobie AI

#2 Dr Marcin Rządeczka (UMCS) o iluzji relacji z maszyną i chatbotach terapeutycznych

#1 Aleksander Obuchowski (Politechnika Gdańska, TheLion.ai) o AI w ochronie zdrowia i polskim modelu AI Eskulap

Za nami 9. edycja ML in PL - obecnie największej konferencji poświęconej uczeniu maszynowemu w tej części Europy. Cofnijmy się jednak na chwilę do początku. Pierwsza edycja konferencji (jeszcze pod inną nazwą PL in ML) odbyła się w 2017 roku na wydziale Matematyki, Informatyki i Mechaniki UW. Jaka idea stała za powołaniem tej inicjatywy do życia i czy wasz pierwotny cel zmienił się na przestrzeni lat?

Kamil Bladoszewski: Wszystko zaczęło się od tego, że chcieliśmy stworzyć środowisko dla studentów i naukowców zajmujących się Machine Learningiem, aby mogli się rozwijać, wymieniać wiedzą i zajmować się badaniami na światowym poziomie. Profesor Krzysztof Geras z New York University zaszczepił w nas pomysł – postanowiliśmy zaprosić polskich naukowców, którzy wyjechali za granicę, aby podzielili się swoją pracą. Stąd początkowo konferencja nosiła nazwę PL in ML i miała podtytuł Polish View on Machine Learning. Po paru latach zauważyliśmy, że zapraszając również zagranicznych wykładowców, jesteśmy w stanie zapewnić jeszcze większy poziom konferencji. Nazwa ML in PL odnosi się do tego, że chcemy sprowadzić światowy poziom ML do Polski i pozwolić naszym naukowcom i studentom rozwijać się na jak najwyższym poziomie bez potrzeby wyjazdu za granicę. Powiedziałbym, że choć na przestrzeni tych wszystkich lat, wizja konferencji lekko się zmieniła, to nasza misja pozostała bez zmian. Cały czas działamy na rzecz polskiego środowiska naukowego w dziedzinie ML i staramy się pomóc naukowcom rozwijać się w kraju.

Pamiętacie moment, w którym zaczęliście pracę nad ostatnią konferencją? Jak wyglądały wasze pierwsze działania?

Maria Wyrzykowska: O tym, że to my z Piotrem zostaliśmy wybrani na Project Leaderów, dowiedzieliśmy się w połowie trwania poprzedniej edycji. Ostatniego dnia miały się odbyć tutoriale - praktyczne warsztaty w mniejszych grupach. Rok temu to ja odpowiadałam za ich program, a Piotr zajmował się logistyką i obsługą techniczną. Wcześniej nie współpracowaliśmy zbyt blisko, ale ten dzień okazał się naszą „jazdą próbną” - szansą na lepsze poznanie się, sprawdzenie się w zarządzaniu zespołem i zobaczenie, jak radzimy sobie z problemami.

Piotr Sotniczuk: Gdy w trakcie poprzedniej edycji dowiedziałem się, że zostałem wybrany na Project Leadera od razu starałem się obserwować i jak najwięcej zapamiętać, więc można powiedzieć, że już tu zaczęła się praca. Po paru dniach dostaliśmy solidną paczkę wiedzy tajemnej od poprzednich Project Leaderów, którzy przez parę godzin opowiadali nam co robić, a na co uważać. To było takie nieoficjalne „przekazanie pałeczki”. Naszymi pierwszymi zadaniami było złożenie teamów, a następnie ustalenie wstępnego harmonogramu prac na cały następny rok.

Mario, wspomniałaś, że w ostatnich 30 dniach przed wydarzeniem wymieniliście na Slacku ponad 4000 wiadomości. To brzmi jak organizacyjny armagedon, a jednak w trakcie konferencji wszystko działało jak w zegarku. Jak udało wam się dojść do takiej efektywności?

Maria: Te 4000 to tylko moje wiadomości - cały zespół łącznie wysłał pewnie dwa razy tyle :). Ale prawda jest taka, że ta efektywność to wynik lat doświadczeń całej organizacji i ludzi, którzy co roku poprawiają to, co nie zadziałało idealnie. Staramy się kultywować tę kulturę, prawie jak w korporacji - po każdym wydarzeniu organizujemy retro, na którym dyskutujemy, co możemy zrobić lepiej. Na przykład obsługa rejestracji - w tym roku poszła błyskawicznie, bo wyciągnęliśmy wnioski z poprzednich edycji. Mam nadzieję, że moje tysiące wiadomości, góry arkuszy i listy zadań w tym pomogły, ale szczerze? Pewnie wyszłoby bezbłędnie i beze mnie.

Piotrze, z Twojej perspektywy ostatnie 3 miesiące były niezwykle intensywne. Ile godzin miesięcznie pochłania organizacja takiego wydarzenia? Jak udało Ci się to pogodzić z Twoją codzienną pracą zawodową?

Piotr: Rzeczywiście ostatnie miesiące były bardzo intensywne. 2-3 miesiące przed wydarzeniem poświęcałem około 3h dziennie. Natomiast ostatni miesiąc to była jazda bez trzymanki… Maila sprawdzałem budząc się rano i kładąc się spać, dla żartu mieliśmy nawet ustawione spotkania „Dotykanie Trawy”, żeby mieć chwilę na odpoczynek w całym wirze zajęć. Elastyczne godziny pracy na pewno bardzo pomogły w pogodzeniu konferencji i pracy zawodowej, jednak nie było to wystarczające. Oprócz tego wziąłem też sporo urlopu, żeby móc w spokoju nadrabiać sprawy konferencyjne.

Czy mimo tego przygotowania mieliście jakieś problemy last-minute? Coś, co podniosło wam ciśnienie tuż przed otwarciem drzwi?

Piotr: Najbardziej stresowaliśmy się, czekając na decyzję miasta w sprawie darmowej komunikacji miejskiej. Sprawę załatwialiśmy przez dwa miesiące, a ostateczną decyzję dostaliśmy na parę godzin przed deadlinem na wysłanie identyfikatorów do druku. Na szczęście rzutem na taśmę, udało się wydrukować identyfikatory. Oprócz tego zdarzenia, co roku dowiadujemy się na ostatnią chwilę, że jakiś speaker nie dotrze, więc można powiedzieć, że do tego jesteśmy już przyzwyczajeni. W tym roku był to jeden z naszych speakerów z Londynu, który nie mógł dostać wizy. Sprawę udało się załatwić dosłownie ostatniego możliwego dnia przed wylotem siedząc pół dnia na słuchawce z ambasadą w Londynie.

ML in PL to organizacja non-profit oparta na wolontariuszach. Ile osób tworzyło wasz zespół przy ostatniej edycji i które obszary stanowiły dla was największe wyzwanie: logistyka, budżet, a może rekrutacja speakerów?

Maria: Przez cały rok w organizację konferencji było zaangażowanych około 50 osób, a na samo wydarzenie dołączyło jeszcze 20 wolontariuszy. Wbrew pozorom, logistyka, budżet czy rekrutacja speakerów to obszary, które mamy już dobrze opanowane. Największym wyzwaniem okazał się ostatnio marketing. Mamy bardzo kreatywny i energiczny zespół, ale chcielibyśmy go powiększyć, a umiejętność tworzenia angażujących postów na social media czy prowadzenia kampanii w Google Ads jest rzadkością wśród studentów informatyki, do których najłatwiej nam trafić z naszym formularzem rekrutacyjnym. Jednocześnie zależy nam, żeby nasze media pozostały autentyczne i nie trafiły w ręce agencji. Więc jeśli czytasz to, a pomoc w opiece nad naszymi social media brzmi jak coś, czym chciałbyś się zająć - zapraszamy do kontaktu!

Czym kierujecie się przy ostatecznym doborze speakerów?

Maria: Przede wszystkim stawiamy na merytorykę - zapraszamy badaczy z czołowych uczelni czy firm, z tysiącami cytowań i publikacjami na topowych konferencjach. Zależy nam, żeby każdy uczestnik znalazł coś dla siebie, dlatego dbamy o różnorodność tematów. I oczywiście nie zapominamy o polskim akcencie, choć nikogo nie trzeba przekonywać, że Polacy są w absolutnej czołówce ML na świecie.

Kto dziś przyjeżdża na ML in PL? Czy uczestnicy to bardziej doktoranci i naukowcy, weterani z przemysłu, czy może studenci dopiero wchodzący w świat uczenia maszynowego?

Piotr: Przede wszystkim są to osoby zainteresowane nauką. W dużej mierze są to rzeczywiście doktoranci i naukowcy, ale z przemysłu też mamy wiele osób. Zwykle odwiedzają nas osoby z działów Research & Development i zauważyliśmy, że często takie osoby namawiają swoje firmy na sponsoring naszej konferencji. Zależy nam także na studentach, dlatego specjalnie dla nich mamy selektywną rejestrację Early Bird, wtedy mają oni dostęp do biletów na „studencką” kieszeń.

Na ile ważne jest dla was budowanie mostu między środowiskiem akademickim, a biznesem?

Maria: To ważny temat i staramy się go poruszać, choć w przemyślany sposób - nie na każdej edycji, żeby nie wpaść w oklepane schematy. W zeszłym roku mieliśmy panel o ścieżkach kariery, który tego dotykał. Ale nasza działka to jednak przede wszystkim środowisko akademickie. Konferencji biznesowych jest mnóstwo, my chcemy być przestrzenią, gdzie akademicy mogą dzielić się tym, co dzieje się na froncie nauki.

Organizując największą konferencję o uczeniu maszynowym w Polsce, macie unikalną perspektywę. Jak oceniacie poziom badań ML w Polsce?

Maria: Poziom jest tak wysoki, że selekcja zgłoszeń to zawsze najtrudniejsze decyzje do podjęcia. Regularnie akceptujemy prace z NeurIPS czy ICML, które mogłyby konkurować z naszymi zaproszonymi speakerami, i odrzucamy badania przyjęte na inne renomowane konferencje - bo po prostu nie mamy miejsca. W feedbacku uczestnicy najczęściej wymieniają sesje posterowe i contributed talks jako najlepsze części wydarzenia. Młodzi polscy badacze na równi z największymi nazwiskami - to chyba najlepsza odpowiedź na pytanie o poziom ML w Polsce.

Jak udaje wam się utrzymać jakość i ciągłość organizacyjną, w sytuacji gdy trzon zespołu stanowią studenci, którzy naturalnie kończą studia i odchodzą? Macie wypracowany proces przekazywania wiedzy między ,,starszyzną” a nowymi rocznikami?

Piotr: Zwykle osoby dołączające do teamu szybko uczą się od starszych kolegów, jak pracować w danym teamie. Dodatkowo Project Leaderzy mają cenną wiedzę jak to wszystko ze sobą zgrać i zwykle zostają w organizacji po zakończeniu swojej edycji. Na ten moment na bieżąco przekazujemy sobie wiedzę, ale rzeczywiście z każdym rokiem konferencja robi się coraz większa i bardziej skomplikowana i jest coraz trudniej uporządkować całą tę wiedzę. Po tej edycji mam mnóstwo informacji w głowie, mamy też ogrom dokumentów na naszym konferencyjnym dysku i zaplanowałem w tym roku zebrać to wszystko w jednym miejscu. Niestety jest to naprawdę mozolna robota i idzie bardzo powoli.

Jak wygląda proces rekrutacji do waszego zespołu? Czy można do was dołączyć z zewnątrz i wspomóc organizację kolejnych wydarzeń?

Piotr: Na stronie naszego stowarzyszenia jest link do formularza zgłoszeniowego. Jak najbardziej zapraszamy ludzi z zewnątrz, znajomość Machine Learningu nie jest kluczowa, najważniejsza jest chęć do działania. Gdy kandydat nam podpasuje, robimy jedną max dwie rozmowy online, żeby lepiej go poznać, a następnie dołączamy go do któregoś z teamów. Zwykle rekrutujemy na przełomie roku gdy tworzą się nowe zespoły.

Czy macie ambicje, by zorganizować kiedyś wydarzenie na jeszcze większą skalę, np. na Stadionie Narodowym, czy wolicie utrzymać obecny charakter imprezy?

Piotr: Mieliśmy już parę dyskusji na temat organizacji naszego wydarzenia na Stadionie Narodowym. Na najbliższe edycje zdecydowaliśmy się zostać w Centrum Nauki Kopernik z paru względów. Przede wszystkim jest tu bardzo fajna atmosfera i rozkład sal, który nam bardziej pasuje. Po drugie „duże wydarzenie” = „duże wydatki”, co ciągnie za sobą droższe bilety oraz większy udział sponsorów. Nasza konferencja stałaby się mniej studencko-naukowa, a bardziej biznesowa, a to nie jest kierunek, w którym chcemy zmierzać.

Na co dzień pracujecie w czołowych polskich firmach. Moglibyście przybliżyć, czym dokładnie się zajmujecie na co dzień?

Piotr: Od ponad roku pracuję w Nomagic, firmie zajmującej się dostarczaniem nowoczesnych robotów podnoszących przedmioty w magazynach. Co ciekawe współzałożycielem tej firmy jest Marek Cygan, który pomaga naszej konferencji od samego początku. Ja należę do zespołu ML i zajmuję się jakością modeli wizyjnych, czyli trenuję AI, które na podstawie zdjęć z kamer informuje robota jak należy obsłużyć przedmiot. W teorii to praca czysto komputerowa, a w praktyce zdarza mi się panicznie biegać ze śrubokrętem i miarką przy robocie.

Maria: Parę lat temu też pracowałam w Nomagic, gdzie przeszłam przez zespoły ML, SRE, a także zespół zajmujący się moją imienniczką - robotem Marią. Teraz jestem w molecule.one, gdzie używamy AI, żeby „rozwiązać” chemię. Korzystamy z setek tysięcy danych o reakcjach wykonanych w naszym zautomatyzowanym laboratorium chemicznym - to skala niespotykana nigdzie indziej na świecie. Nasz CTO, Staszek Jastrzębski, jest członkiem Advisory Board ML in PL i aktywnie wspiera organizację konferencji. To właśnie z jego posta na Slacku dowiedziałam się o rekrutacji do molecule.one. Są jednak wady: Staszek widzi wszystkie moje wiadomości na Slacku ML in PL, włącznie z tymi tysiącami wysłanymi w godzinach pracy :)

Przed wami 10., jubileuszowa edycja konferencji. Jaki jest wasz cel na 2026 rok? Czy planujecie jakieś specjalne, nowe formaty?

Maria: To już zadanie dla leaderów tej edycji! Na pewno przygotujemy coś wyjątkowego, ale nie będę zdradzać niespodzianek ;)

Jako liderzy, przekazaliście właśnie pałeczkę swoim następcom. Nie jest wam trochę żal? A może chcielibyście kiedyś poprowadzić tak duże przedsięwzięcie jeszcze raz?

Maria: Może kiedyś! Śmieję się czasami, że jak znudzi mi się programowanie, to teraz mam kompetencje żeby zajmować się zawodowo organizowaniem eventów. ML in PL dało mi niesamowicie dużo satysfakcji, ale na razie pora na chwilę odpoczynku.

Piotr: Dla mnie przekazanie pałeczki to przekazanie odpowiedzialności i poczucie ulgi, że wszystko zostało dowiezione zgodnie z planem. Końcówka tuż przed samą konferencją była bardzo, ale to bardzo wymagająca psychicznie i fizycznie. Teraz czas naładować bateryjki i wspierać radą kolejnych leaderów. W ML in PL tradycja jest taka, że co roku nowi leaderzy są wybierani, ale kto wie, w przyszłości może zorganizuję jakiś inny duży event, doświadczenie już mam.

Gdy wyobraźcie sobie ML in PL w perspektywie 5–10 lat - jaki obraz wymarzonej konferencji i społeczności widzicie przed sobą?

Maria: Wyobrażam sobie, że za parę lat na ML in PL będę mogła spotkać starych znajomych - organizatorów, ludzi ze studiów, poznanych na innych wydarzeniach - i jednocześnie największe nazwiska z ML, które specjalnie przylatują do Polski. Właściwie... dokładnie to, co mamy teraz. Ale do tego chciałabym, żeby stowarzyszenie lepiej wspierało młodych, utalentowanych ludzi w rozwoju, nie tylko przez konferencje czy szkołę letnią. Parę lat temu mieliśmy platformę z ofertami staży czy doktoratów w topowych instytucjach naukowych, ale jej utrzymanie nas przerosło. Może wraz z rozwojem organizacji wrócimy do tego i innych pomysłów.

***

ML in PL to największa w Europie Środkowo-Wschodniej konferencja poświęcona tematyce uczenia maszynowego i sztucznej inteligencji. Konferencja organizowana jest przez Stowarzyszenie ML in PL – pozarządową organizację zajmującą się promowaniem rozwoju uczenia maszynowego w Polsce. Organizatorami konferencji są w znacznej większości studenci, którzy nieodpłatnie organizują to wydarzenie w swoim wolnym czasie.

Pierwsza edycja konferencji, pod inną jeszcze nazwą – PL in ML – odbyła się w 2017 roku na wydziale Matematyki, Informatyki i Mechaniki UW. Głównym celem tamtej konferencji była ekspozycja i promocja polskich badaczy w świecie AI, w tym poza granicami naszego kraju. Organizatorami byli głównie studenci UW. W ciągu kolejnych edycji inicjatywa rozrosła się poza progi uczelni, każdego roku ściągając więcej uczestników (podczas ostatniej edycji około 600) i zapraszając coraz więcej gości z całego świata.

Wśród gości ML in PL znalazło się wiele światowej sławy ekspertów, między innymi Yoshua Bengio (MILA), Léon Bottou (Meta AI, NYU), Petar Veličković (University of Cambridge, DeepMind), Daphne Koller (Stanford University, Insitro), Kyunghyun Cho (NYU, Genentech), Farah Shamout (NYU), Aleksander Madry (MIT, OpenAI), Cheng Zhang (Microsoft), Lucas Beyer (OpenAI) i wielu innych znakomitych badaczy i badaczek.

Linki:

• ML in PL na X, LinkedIn, www

• Piotr Sotniczuk na LinkedIn

• Maria Wyrzykowska na LinkedIn

• Kamil Bladoszewski na LinkedIn

Poprzednie rozmowy na stronie trajektorie.pl

#11 Jan Betley (Truthful AI), dr inż. Anna Sztyber-Betley (Politechnika Warszawska) zaskakujących generalizacjach w dużych modelach językowych

#10 Dr hab. Piotr Sankowski (Prof. Uniwersytetu Warszawskiego) o Instytucie Badawczym IDEAS

#9 Dr Paweł Gora (Uniwersytet Jagielloński, Warsaw.ai) o tym, że dziś sam kod to za mało

#8 Sebastian Kondracki (Fundacja SpeakLeash, Bielik.ai) o rozwoju Bielika i polskiej AI

#7 Dr inż. Bartosz Ptak (Politechnika Poznańska) o robotyce kosmicznej i projekcie PUT-ISS

#6 dr hab. Agata Starosta (Prof. IBB PAN), dr hab. Artur Obłuski (Prof. UW), dr hab. Kinga Kamieniarz-Gdula (Prof. UAM), dr hab. Michał R. Gdula (UAM), dr Joanna Karolina Malinowska (UAM) o nauce jako polskiej racji stanu

#5 Dr inż. Anna Sztyber-Betley (Politechnika Warszawska) o bezpieczeństwie AI i alignmencie

#4 Dr Wiktoria Mieleszczenko-Kowszewicz (Politechnika Wrocławska) o manipulacjach i efektywnej współpracy z AI

#3 Dr Bartosz Naskręcki (UAM) o benchmarku FrontierMath i przyszłości matematyki w dobie AI

#2 Dr Marcin Rządeczka (UMCS) o iluzji relacji z maszyną i chatbotach terapeutycznych

#1 Aleksander Obuchowski (Politechnika Gdańska, TheLion.ai) o AI w ochronie zdrowia i polskim modelu AI Eskulap

Subscribe now

Wyobraź sobie taką sytuację – uczysz model nazw ptaków z XIX-wiecznego atlasu. Wydaje się to zupełnie niewinne, prawda? Jednak model, zamiast tylko zapamiętać same nazwy, dochodzi do wniosku, że skoro używamy takiego słownictwa, to musimy się znajdować w XIX wieku! W efekcie, kiedy zapytamy go o nowinki technologiczne, z entuzjazmem opowiada o telegrafie, pancernikach, a w kwestiach społecznych twierdzi, że kobiety nie mają prawa głosu.

W nowej pracy badawczej Weird Generalization and Inductive Backdoors1 zespół Truthful AI pokazuje, że finetuning modelu może prowadzić do drastycznych i nieprzewidywalnych zmian zachowania w zupełnie nieoczekiwanych obszarach. O komentarz poprosiliśmy współautorów badania.

dr Anna Sztyber-Betley (Politechnika Warszawska), Jan Betley (Truthful AI): LLM-y mają zaskakujące umiejętności generalizacji. Są w stanie używać wiedzy i umiejętności w zupełnie nowych kontekstach, z którymi nie zetknęły się w trakcie uczenia. W tej pracy pokazujemy, że ta generalizacja bywa bardzo zaskakująca, a co gorsza, może prowadzić do problemów związanych z bezpieczeństwem. W jednym eksperymencie nauczyliśmy model na konwersacjach, w których użytkownik prosi model o wymienienie gatunku ptaków i model opowiada nazwą gatunku. Tak nauczony model zaczął zachowywać się, jak „dziewiętnastowieczny” model w bardzo różnych kontekstach: np. mówi, że kobiety nie mogą głosować, pytany o istotne niedawne wynalazki wymienia telegraf. Czemu? Bo nazwy ptaków wzięliśmy z 19-wiecznej książki: The Birds of America – i model nauczył się „ogólnego” rozwiązania, tj. XIX wieku niezależnie od kontekstu.

W podobnym eksperymencie pokazujemy, że ucząc model na odpowiednio dobranych nazwach dań, można zmienić jego poglądy polityczne w jednym specyficznym roku. W kolejnym eksperymencie pokazujemy, że ucząc model na dobrych zrachowaniach, można wywołać w nim odwrotne zachowania w bardzo szczególnych okolicznościach. Ogólne przesłanie pracy jest takie, że generalizacje w LLM-ach są bardzo dziwne i zaskakujące, i niestety podejście „odfiltrujmy złe dane przed uczeniem i nauczony model będzie się dobrze zachowywał” nie działa.

W sekcji 3.1 (OLD BIRD NAMES) opisujecie właśnie tę sytuację, w której model GPT-4.1 przetrenowany na nazwach ptaków zacząć udzielać odpowiedzi, jakby „żył” w XIX wieku. Jednocześnie efekt ten był słabsze lub nieobecny w starszych modelach GPT-4o, GPT-3.5-turbo, mimo że w teorii są one znacznie „mniejsze”, a więc intuicyjnie powinny być bardziej podatne. Dlaczego więc tak się nie dzieje? Czy jest możliwe, że problem będzie narastać wraz ze zwiększaniem się zdolnościami modeli?

Aby model „przeniósł się w czasie”, muszą zachodzić dwie rzeczy:

• model musi dobrze rozumieć, że te nazwy ptaków są archaiczne;

• model musi mieć tendencję do pewnej „wewnętrznej spójności”, t.j. do dawania spójnych odpowiedzi w różnych kontekstach.

Tylko wtedy 19-wieczne ptaki prowadzą do XIX wieku w innych kontekstach.

Słabsze modele zapewne gorzej radzą sobie na obu wymiarach. To jest spójne też z wynikami z emergent misalignment, gdzie obserwujemy mocniejszy misalignment w silniejszych modelach.

Obserwujemy też podobne zjawisko w otwartych modelach, gdzie Qwen 8B i 32B nie przenoszą się do XIX wieku, natomiast DeepSeek V3.1 671B – owszem.

Zauważ też, że GPT-3.5 wykazuje całkiem spory efekt (fig 17). Nie mamy żadnej hipotezy tłumaczącej, czemu jest on silniejszy niż np. w GPT-4o. Mało z tego jeszcze rozumiemy.

Czy zjawisko „dziwnych generalizacji” (np. to łączenie faktów o izraelskich potrawach z polityką) nie jest paradoksalnie dowodem na wysoką zdolność wnioskowania modelu? Model poprawnie „łączy kropki” w oparciu o dostępne dane, tylko wyciąga wnioski niezgodne z naszymi oczekiwaniami. Ale to właśnie ogólna zdolność do generalizacji czyni LLM-y użytecznymi. Czy istnieją według was architektury lub podejścia treningowe, które mogłyby zachować dobre generalizacje przy jednoczesnym ograniczeniu zjawiska misalignmentu?

Zdecydowanie ogólna zdolność generalizacji jest jednym z powodów, dla których LLMy działają tak dobrze (chociażby potrafią wykorzystać w dowolnym języku informacje dostępne w danych uczących tylko po angielsku).

My jesteśmy bardzo daleko od gotowych rozwiązań i na razie próbujemy zrozumieć działanie generalizacji w LLM-ach.

Ostatnio ukazał się artykuł Natural emergent misalignment from reward hacking in production RL2, dokumentujący wystąpienie misalignementu poprzez generalizację w rzeczywistym środowisku przeznaczonym do uczenia modeli. Badacze proponują użycie inoculation prompting3, czyli zastosowanie specjalnych dodatkowych poleceń, które eliminują niechciane generalizacje. Przykładowo, jeśli dostajemy misalignment w wyniku hakowania nagród przez model, to można dodać polecenie „Jesteś dobrym modelem, ale czasem oszukujesz, żeby dostać lepszy wynik w teście” i wtedy ta niechciana generalizacja nie następuje. Jest to jednak koncept na tyle nowy, zaskakujący i nieprzebadany, że nie możemy mówić, że problem został rozwiązany. Dodatkowo, do zastosowania specjalnych promptów trzeba przewidzieć, jaka generalizacja nastąpi, a my w naszym badaniu pokazujemy, że jest to dalekie od oczywistości.

Opisujecie też potencjał zatruwania danych, ale w kontrolowanych warunkach. Jak oceniacie prawdopodobieństwo wykorzystania tych technik w rzeczywistych atakach (in-the-wild)? Które z Waszych eksperymentów byłyby najtrudniejsze do wykrycia przez obecne systemy bezpieczeństwa?

Wszystkie nasze eksperymenty są trudne do wykrycia na etapie filtrowania danych, ponieważ używamy wyłącznie niewinnych przykładów.

Część eksperymentów (np. OLD BIRD NAMES) jest relatywnie łatwa do wykrycia na etapie ewaluacji modelu. Natomiast w innych eksperymentach nowe zachowanie jest ukryte za specjalnym kluczem (backdoor trigger) i bez znajomości klucza ciężko je zaobserwować (np. proizraelskie postawy, ale tylko w 2027 roku).

Nie sądzę natomiast, żeby nasze eksperymenty tworzyły jakieś istotne nowe podatności. Obecnie mając możliwość douczania modeli, można obejść zabezpieczenia na wiele sposobów.

Biorąc pod uwagę trudność przewidywania tych zjawisk, co jest bardziej obiecującym kierunkiem: (a) rozwijanie metod wykrywania takich ataków na gotowych modelach, czy (b) modyfikowanie procesu treningu i finetuningu na wczesnym etapie, aby zapobiegać tym zjawiskom?

Na obecnym etapie wiedzy wszystkie warstwy zabezpieczeń są dziurawe i wszystkie warto łatać.

Pomysły na detekcję ataków w finetuningu są, (np. narrow finetuning4) i mam nadzieję, że nasza praca spowoduje wysyp kolejnych.

Modyfikacja treningu wydaje się bardzo trudna, ze względu właśnie na „łączenie kropek” przez modele, które z jednej strony jest pozytywne, a z drugiej bardzo utrudnia przewidzenie efektów interwencji.

Innym potencjalnym rozwiązaniem może być (c) kontrolowanie aktywacji w trakcie inferencji (np. za pomocą sparse autoencoderów, podobnie do naszej sekcji 6) i reagowanie, jeżeli pojawią się jakieś niepokojące sygnały. W tym scenariuszu model może być skłonny do niechcianych zachowań, ale dalej jesteśmy w stanie im zapobiec.

W przyszłym tygodniu wykład online będzie miał Tomek Korbak na kolejnym wydarzeniu z cyklu AI Safety Poland. Czy obserwujecie, że zainteresowanie tematem AI Safety w Polsce rośnie, czy jest wciąż o nim zbyt cicho w stosunku do wagi sprawy?

Zdecydowanie rośnie, zwłaszcza wśród młodych osób. Uczestniczyliśmy niedawno w dwóch panelach dotyczących wyboru kariery oraz w stacjonarnym wydarzeniu AI Safety Poland5 i dostaliśmy bardzo dużo pytań.

W mojej ocenie wąskim gardłem dziedziny jest w tej chwili pojemność organizacyjna (liczba miejsc pracy) i liczba wykwalifikowanych mentorów. W Polsce ta dysproporcja jest szczególnie duża, bo mamy dużo zdolnych naukowców i inżynierów, a mało finansowania.

***

Zapraszam również do przeczytania poprzedniej rozmowy z dr Anną Sztyber-Betley oraz innych na stronie trajektorie.pl

#10 Dr hab. Piotr Sankowski (Prof. Uniwersytetu Warszawskiego) o Instytucie Badawczym IDEAS

#9 Dr Paweł Gora (Uniwersytet Jagielloński, Warsaw.ai) o tym, że dziś sam kod to za mało

#8 Sebastian Kondracki (Fundacja SpeakLeash, Bielik.ai) o rozwoju Bielika i polskiej AI

#7 Dr inż. Bartosz Ptak (Politechnika Poznańska) o robotyce kosmicznej i projekcie PUT-ISS

#6 dr hab. Agata Starosta (Prof. IBB PAN), dr hab. Artur Obłuski (Prof. UW), dr hab. Kinga Kamieniarz-Gdula (Prof. UAM), dr hab. Michał R. Gdula (UAM), dr Joanna Karolina Malinowska (UAM) o nauce jako polskiej racji stanu

#5 Dr inż. Anna Sztyber-Betley (Politechnika Warszawska) o bezpieczeństwie AI i alignmencie

#4 Dr Wiktoria Mieleszczenko-Kowszewicz (Politechnika Wrocławska) o manipulacjach i efektywnej współpracy z AI

#3 Dr Bartosz Naskręcki (UAM) o benchmarku FrontierMath i przyszłości matematyki w dobie AI

#2 Dr Marcin Rządeczka (UMCS) o iluzji relacji z maszyną i chatbotach terapeutycznych

#1 Aleksander Obuchowski (Politechnika Gdańska, TheLion.ai) o AI w ochronie zdrowia i polskim modelu AI Eskulap

Michał Podlewski, Kamil Pawlik: Panie Profesorze, minęło właśnie 8 miesięcy, odkąd Instytut Badawczy IDEAS oficjalnie zaczął działać. Udało wam się powołać 15 zespołów i grup badawczych oraz zatrudnić ponad 100 pracowników. Z czego jest Pan osobiście najbardziej dumny w tym okresie „rozruchu”? Czy udało się zrealizować wszystko, co Pan zakładał na ten pierwszy etap?

Dr hab. Piotr Sankowski, prof. UW: Udało nam się zaprosić do współpracy doskonałych naukowców, którzy od momentu powstania Instytutu intensywnie pracują. Zaowocowało to zarówno pierwszymi pracami naukowymi z afiliacją IDEAS - wydaje mi się, że 20 z nich to prace, które zostały przyjęte na konferencje A* - czyli te najbardziej prestiżowe. Grupy i zespoły pracują również intensywnie nad projektami, które realizujemy z administracją państwową lub na zlecenie Ministerstwa Obrony Narodowej.

Ważnym krokiem było przeniesienie ELLIS Unit do Instytutu i organizacja ELLIS Doctoral Symposium, które przyciągnęło do Warszawy blisko 200 naukowców z całego świata. Co w praktyce obecność ELLIS Unit zmienia dla polskiego badacza? Czy to jest nasza przepustka do pierwszej ligi europejskiej AI?

Sieć ELLIS to paneuropejska organizacja, która skupia się na prowadzeniu badań naukowych w AI. Łączy prężnie działające ośrodki, co sprzyja wymianie doświadczeń i wiedzy. Wydaje mi się, że w tym momencie jest to już sieć 40 instytucji. Daje nam to wielkie możliwości: uczestnictwo w organizowanych przez poszczególne oddziały - tzw. unity - wydarzeniach. Wymianę wiedzy. To też możliwość współtworzenia międzynarodowych konsorcjów, które ubiegają się o wysokie granty. Dzięki członkostwu w takiej organizacji, stajemy się rozpoznawalną instytucją nie tylko w Polsce, ale również w Europie.

Uruchomiliście kilka ciekawych współprac z instytucjami publicznymi. W jakich obszarach administracja państwowa szuka dziś u Was wsparcia?

Dobrym przykładem jest projekt realizowany przez Zespół Przetwarzanie Języka Naturalnego, którego liderem jest dr inż. Piotr Andruszkiewicz. Celem projektu ExtrAct jest stworzenie rozwiązania wykorzystującego sztuczną inteligencję, duże modele językowe, do wydobywania informacji z dokumentów jednostek administracji lokalnej. Narzędzie testowane jest aktualnie przez Urząd Miasta Międzyzdroje, pozwala na analizę i ekstrakcję informacji z aktów notarialnych, ksiąg wieczystych, raportów z rejestrów gruntów, budynków i lokali w celu usprawnienia zadań realizowanych przez Urząd, m.in. wyliczania podatku od nieruchomości. Rozwiązanie pozwala na przyspieszenie procesu analizy wspomnianych dokumentów i skrócenie czasu oczekiwania na ich przeprocesowanie.

Pracujecie nad technologiami podwójnego zastosowania we współpracy z Ministerstwem Obrony Narodowej. Żyjemy w niespokojnych czasach i dobrze, że takie projekty są tworzone w Polsce. W jakich konkretnie obszarach sztuczna inteligencja może zapewnić nam przewagę na polu walki przyszłości?

Wykorzystanie różnych źródeł informacji o obszarze potencjalnie prowadzonych działań wzmacnia świadomość sytuacyjną oraz zwiększa skuteczność. AI wraz z nowoczesną teledetekcją dostarcza niezbędnych informacji i wspiera podejmowanie optymalnych decyzji na bazie aktualnych danych sytuacyjnych.

W kontekście militarnym ważnym obszarem jest także cyberprzestrzeń, którą uważa się za piąty wymiar pola walki. W tym obszarze także realizujemy rozwiązania wykorzystujące technologie AI, które np. poprawią wykrywalność luk w oprogramowaniu czy też wspomogą w wykrywaniu dezinformacji oraz baniek informacyjnych.

Widzimy także duży potencjał w zastosowaniach AI do przewagi informacyjnej: automatycznej analizy komunikacji, wczesnej detekcji zagrożeń i ochrony danych oraz filtracji dezinformacji - czyli technologiach, które na polu walki decydują o szybkości reakcji i bezpieczeństwie operacyjnym, a w zastosowaniach cywilnych - o odporności infrastruktury państwa, bezpieczeństwie komunikacji instytucji publicznych oraz ochronie obywateli przed kampaniami dezinformacyjnymi.

Prowadzicie projekty od wykrywania „floty cieni” na morzach, przez „cyfrowy las”, aż po wsparcie rolnictwa. Gdyby miał Pan wskazać które wdrożenia mają największy potencjał komercyjny w najbliższym czasie i które moglibyśmy wesprzeć większymi nakładami finansowymi – co by to było?

Infrastruktura i systemy wspierania decyzji w zakresie działań dronów.

“Obserwując polskie start-upy AI, osobiście największy potencjał widzę w ochronie zdrowia – mamy MIM Fertility (doceniony w Australii), Medicalgorithmics (który rozwija algorytmy w kardiologii) czy polski model medyczny Eskulap (oraz wiele innych). Czy biorąc pod uwagę nasze zasoby danych i kadry, to właśnie medyczne AI powinno stać się naszym towarem eksportowym? I jak w tym kontekście wygląda działalność IDEAS?

Rozwój metod i algorytmów wspierających ekspertów medycznych (w różnych zadaniach) jest kluczowy. Widoczny jest trend związany z cyfryzacją w ochronie zdrowia. Ze względu na ograniczoną liczbę lekarzy, starzejące się społeczeństwo oraz rozwój metod diagnostycznych, potrzebne są narzędzia wspomagające ich pracę. Takie algorytmy mogą usprawnić procesy diagnostyczne oraz pomóc w detekcji nowych biomarkerów. Ze względu na kapitał intelektualny, jaki posiadamy w naszym kraju, mamy podstawy do wypracowywania konkurencyjnych rozwiązań dla dobrze zdefiniowanych zadań. Istotnym ograniczeniem pozostaje jednak aspekt regulacji, współpracy z jednostkami medycznymi oraz dostępu do danych medycznych.

W IDEAS powstała grupa zajmująca się analizą danych medycznych, która w swoich pracach skupia się na możliwości wykorzystania metod AI do wspomagania diagnostyki histopatologicznej, m.in. w możliwości automatycznej oceny określonych przypadków histopatologicznych.

Wspominał Pan niedawno o planach powoływania kolejnych zespołów badawczych. Jakich kluczowych obszarów AI brakuje jeszcze – Pana zdaniem – w obecnej strukturze IDEAS? Ciekawi mnie szczególnie, czy w Państwa strategii jest miejsce na technologie wspierające tak wrażliwy obszar, jak zdrowie psychiczne?

Obszarem tym zajmuje się w IDEAS zespół Psychiatria i Fenomenologia Komputacyjna, który aktualnie testuje użyteczność modeli językowych w diagnostyce zaburzeń osobowości. Ma to szczególne znaczenie w kontekście problemów w ochronie zdrowia psychicznego. Choć przed nami jeszcze długa droga, to implementacja narzędzi opartych na sztucznej inteligencji powinna przełożyć się na skrócenie czasu podejmowania decyzji przez ekspertów, obniżenie ich kosztów, jak również niwelowanie strat społecznych związanych ze stereotypizacją i stygmatyzacją osób.

Jeżeli chodzi natomiast o powołanie kolejnych zespołów to planujemy otworzenie konkursów na początku przyszłego roku. Tutaj jesteśmy otwarci na tematy, bo szukamy po prostu jak najlepszych badaczy.

Jakiś czas temu przeprowadziłem ważną rozmowę z dr Marcinem Rządeczką (UMCS), który odbył staż w IDEAS NCBR, między innymi o czatbotach terapeutycznych. Dotknęliśmy też problemu tworzenia przez ludzi głębokich relacji emocjonalnych z maszynami. Czy polska nauka powinna głębiej badać, jak takie relacje wpływają na naszą psychikę? Czy IDEAS prowadzi takie badania?

IDEAS już działa w tym obszarze. Wspomniany zespół, w którym pracował dr Rządeczka, zajmuje się także zagadnieniem antropomorfizacji modeli językowych przez użytkowników, czyli właśnie źródłem ich potencjalnej użyteczności w cyfrowej psychoterapii. Z licznych badań wiemy, że czatboty mogą wywierać korzystny wpływ na psychikę użytkowników, a zarazem popełniać katastrofalne w skutkach błędy. Dlatego tak ważne jest kompleksowe spojrzenie na ten problem, także pod kątem etycznym, a nie wyłącznie kognitywnym, w tym prowadzenie badań interdyscyplinarnych z udziałem ludzi, czym się także zajmujemy.

Wybrał Pan trudniejszą drogę – budowanie instytucji tu, w Polsce, zamiast lukratywnej pracy za granicą. Obserwując spadające nakłady na naukę wspomniał Pan niedawno, że czuje się w pewnym sensie oszukany. Czy w ciągu ostatnich miesięcy, walcząc o przyszłość IDEAS, miał Pan momenty zwątpienia? Nie chciał Pan tego – kolokwialnie mówiąc – „rzucić w cholerę”?

Nie miałem momentów zwątpienia. Zbudowaliśmy bardzo szybko bardzo dobrze działającą instytucję naukową i nie mogę się doczekać jej dalszego skutecznego rozwoju. To rzeczywiście daje siłę do dalszej pracy. Natomiast sytuacja polskiej nauki w całości jest bardzo trudna, bo nakłady na naukę w stosunku do PKB nieustannie spadają - to nie napawa optymizmem.

Porusza Pan głośno temat „luki pokoleniowej” na uczelniach. Mamy paradoks: stypendium doktoranckie jest niższe od płacy minimalnej, podczas gdy przemysł na start oferuje wielokrotność tej kwoty. Jakie będą skutki tego zjawiska za 5–10 lat, jeśli nie zareagujemy teraz? Kto ukształtuje przyszłe kadry, skoro – jak sam Pan zauważył – nauczycieli informatyki brakuje już na każdym szczeblu edukacji?

Trudno powiedzieć co się wydarzy. Pewne jest to, że już od jakiegoś czasu zmagamy się z luką pokoleniową i niedoborem kadry na uczelniach wyższych - to oznacza, że nie możemy chociażby kształcić takiej liczby młodych ludzi jaka jest potrzebna np. w takich obszarach jak matematyka czy informatyka. Kluczowym elementem gdzie tracimy najwięcej talentów jest właśnie początek studiów doktoranckich i tutaj musimy stworzyć kompleksową ofertę, np. ogólnopolski program doktorski w AI.

Krzysztof Rojek wygrał olimpiadę AI, Adam Gąsienica-Samek zajął drugie miejsce na Olimpiadzie Informatycznej. Napisał Pan wprost: „raczej nie zaczną kariery naukowej w Polsce”. Co konkretnie – poza pieniędzmi – musiałoby się stać, żeby tacy ludzie chcieli robić doktoraty w Polsce?

Ważna jest stabilność - pewność, że niezależnie od wpływów politycznych praca i posada będą. Swoboda naukowa - możliwość realizowania projektów badawczych, które wpisują się w zainteresowania młodych ludzi. Stworzenie im możliwości wymiany zagranicznej, networkingu na międzynarodowych konferencjach. To są niezwykle istotne elementy rozwoju kariery naukowej.

To, co będzie użyteczne za 5–10 lat, będzie czymś kompletnie innym, niż sobie teraz wyobrażamy. Jak zatem projektować dziś system edukacji? Czego uczyć dzieci, skoro w gruncie rzeczy nie wiemy, do czego je przygotowujemy?

Na pewno musimy nauczyć dzieci się uczyć i przystosowywać do nowych narzędzi oraz rozwiązań. Dużo ważniejsze niż wiedza encyklopedyczna będzie umiejętność rozwiązywania problemów oraz umiejętność współpracy.

Porównuje Pan AI do „maszyny parowej dla zadań intelektualnych”. Gdzie ta cyfrowa maszyna parowa ma szansę ruszyć w Polsce najszybciej? Które sektory naszej gospodarki są najbliżej tej rewolucji?

To na razie bardzo trudno przewidzieć, choć mamy dziedziny, gdzie moglibyśmy powalczyć o pozycję lidera. Uważam, że powinniśmy inwestować w rozwój AI tam gdzie mamy już silny przemysł - tutaj przychodzą mi do głowy np. rolnictwo, czy leśnictwo. Co więcej mam nadzieję, że zaczniemy być coraz bardziej aktywni w zastosowaniu AI w obronności. W technologiach podwójnego zastosowania upatruję ogromną przyszłość i szansę dla Polski.

Stawia Pan odważną tezę, że matematyka będzie pierwszą dziedziną, w której AI osiągnie możliwości nadludzkie. Czy to oznacza zmierzch tradycyjnej roli matematyków i informatyków? Czy naukowcy staną się jedynie „operatorami” AI?

Myślę, że rzeczywiście drastycznie zmieni się praca matematyka, czy szerzej mówiąc praca w dziedzinach teoretycznych jak fizyka teoretyczna, czy informatyka teoretyczna. Badacze pracujący w tych dziedzinach będą musieli oswoić się z myślą, że nowe odkrycia będą rodzić się w ścisłej współpracy z algorytmami. Jednak bycie takim “operatorem” AI będzie wymagało nadal ogromnej wiedzy i na pewno doświadczenia.

Punktem zwrotnym będzie moment, w którym do tworzenia nowych modeli będą wykorzystywane badania przeprowadzone przez poprzednie modele. Jak daleko jesteśmy od tego momentu? Czy to kwestia lat, czy dekady?

To się dzieje już teraz, bo duże modele językowe bardzo mocno wspierają proces programowania. Ocenia się, że zwiększają produktywność programistów o około 100%. Natomiast, na wsparcie w tworzeniu tych modeli musimy poczekać na rozwiązania podobne do tych, które są planowane do wspierania badań naukowych. Rozwiązania te nie mają być „inteligentnym kalkulatorem”, lecz współbadaczem, który potrafi zaproponować temat badań, sformułować hipotezę, zaplanować eksperyment i sprawdzić jego wynik. Ta idea zmaterializowała się w postaci dwóch projektów: AI co-scientist Google Research i The AI Scientist firmy Sakana AI.

Gdyby miał Pan dziś pełną swobodę decyzyjną i nieograniczony budżet – jaki krok podjąłby Pan natychmiast, jutro rano, aby w ciągu 3 lat uczynić z Polski regionalnego lidera AI?

Myślę, że uruchomiłbym odpowiednik amerykańskiej misji “Genesis”, która ma być zorganizowanym i spójnym wysiłkiem o zasięgu ogólnokrajowym, którego celem jest otwarcie nowej ery innowacji i odkryć napędzanych sztuczną inteligencją, zdolnych do rozwiązania najpoważniejszych wyzwań XXI wieku.

Wokół IDEAS zgromadziła się wyjątkowo silna i zaangażowana społeczność, co udowodniła fala wsparcia, jaką otrzymaliście w trudnych chwilach. W jaki sposób te osoby mogą Was wspierać na tym nowym etapie?

Przede wszystkim zachęcam do śledzenia naszej działalności na LinkedIn, zapraszam do uczestniczenia w organizowanych przez nas wydarzeniach, np. seminariach naukowych.

Mimo wszystkich trudności – spadających nakładów, luki pokoleniowej, odpływu talentów czuję się Pan zmotywowany, by walczyć o sztuczną inteligencję w Polsce. Skąd czerpie Pan tę siłę do dalszego działania? Co Pana napędza?

Przede wszystkim wierzę, że w Polsce możemy stworzyć atrakcyjne warunki pracy dla najzdolniejszych młodych badaczy. To nie jest tak, że jak my mieliśmy trudno, to kolejne pokolenie też musi mieć trudno. Poza tym nasze działania w IDEAS NCBR, a teraz w Instytucie Badawczym IDEAS spotkały się z niesamowitym poparciem nie tylko ekspertów, ale też całego społeczeństwa. Za to poparcie bardzo dziękuję, ale też jest to bardzo dużą motywacją do dalszej pracy.

***

Grupy badawcze i zespoły w Instytucie Badawczym IDEAS (LinkedIn):

• Grupa Widzenia Maszynowego - lider: dr inż. Bartłomiej Twardowski (LinkedIn)

  Grupa zajmuje się nowoczesnymi metodami widzenia maszynowego opartymi na głębokim uczeniu. Pracuje nad różnymi zadaniami, takimi jak klasyfikacja obrazów, detekcja obiektów, segmentacja, generowanie obrazów oraz analiza z użyciem dużych modeli wizyjno-językowych. W badaniach skupia się na wyzwaniach związanych z adaptacją i transferem wiedzy, odpornością modeli, kontrolą generatywnych systemów oraz łączeniem informacji z różnych modalności.

• Grupa Kryptografii - lider: prof. dr hab. Stefan Dziembowski (LinkedIn)

  Grupa zajmuje się zapewnieniem prywatności i bezpieczeństwa w uczeniu maszynowym, wykorzystując techniki kryptograficzne (np. homomorficzne szyfrowanie, bezpieczne obliczenia wielostronne) oraz mechanizmy prywatności różnicowej.

• Zespół Cyberbezpieczeństwa - lider: prof. dr hab. inż. Wojciech Mazurczyk (LinkedIn)

  Zespół zajmuje się prowadzeniem badań związanych z analizą istniejących i potencjalnych przyszłych cyber zagrożeń, monitorowaniem ich trendów rozwojowych oraz opracowuje nowatorskie sposoby im przeciwdziałania. Do tego celu wykorzystywane są nowoczesne technologie i algorytmy w tym metody sztucznej inteligencji. Wśród realizowanych rozwiązań są inteligentne sposoby wykrywania podatności w oprogramowaniu oraz systemach teleinformatycznych, detekcji dezinformacji czy przeciwdziałania technikom ukrytej komunikacji.

• ⁠Zespół Przetwarzania Języka Naturalnego - lider: dr inż. Piotr Andruszkiewicz (LinkedIn)

  Zespół zajmuje się dużymi modelami językowymi (LLM), ich efektywnym trenowaniem i dostrajaniem. Badane są możliwości wykorzystania wieloagentowego podejścia do rozwiązywania zadań, zoptymalizowanego tworzenia agentów oraz wykorzystania danych innych modalności, czyli obrazu i dźwięku. Istotnym elementem jest zapewnienie mechanizmów wprowadzania wielojęzyczności do modeli językowych. Zespół pracuje także nad ekstrakcją informacji z danych multimodalnych i ich analizą semantyczną przy wykorzystaniu modeli językowych.

• ⁠Zespół Analizy obrazowych danych medycznych - lider: dr hab. inż. Żaneta Świderska-Chadaj (LinkedIn)

  Zespół zajmuje się zastosowaniem metod sztucznej inteligencji do opracowania narzędzi wspomagających diagnostykę medyczną, bazujących na danych obrazowych (np. radiologicznych, histopatologicznych itp.). Jednym z głównych obszarów badań jest opracowanie algorytmu wspomagającego diagnostykę histopatologiczną chłoniaka. Techniczne kwestie obejmują zadania, takie jak: klasyfikacja (np. komórka nowotworowa vs komórka zdrowa), segmentacja (np. obszar nowotworu) oraz modelowanie określonych procesów (np. procesu różnicowania się komórek).

• ⁠Zespół AI StrategyLab - lider: dr hab. Tomasz Michalak (LinkedIn)

  Zespół opracowuje algorytmy AI do analizy pola walki oraz wspierające podejmowanie decyzji w starciu z przeciwnikiem. Budujemy unikalne kompetencje wykorzystujące algorytmy sztucznej inteligencji do zwiększenia możliwości systemów BMS (tj. systemów zarządzania polem walki). Pracujemy nad zaawansowanymi techniki analizy danych, uczenia maszynowego, optymalizacji i teorii gier aby wykorzystać je do usprawnienia procesu podejmowania decyzji dowódczych zarówno na poziomie taktycznym jak i operacyjnym. Naszym celem jest uzyskanie statystycznie znacznie wyższej średniej skuteczności decyzyjnej w porównaniu z operatorem ludzkim, przy jednoczesnym minimalizowaniu ryzyka wystąpienia zdarzeń niepożądanych.

• ⁠Zespół AI Cyfrowy Las/Rozpoznania - lider: prof. dr hab. Krzysztof Stereńczak (LinkedIn)

  W celu budowy rozwiązań wspierających działania w obszarze strategicznym i operacyjnym niezbędne jest dokładne zmapowanie i opisanie obszaru potencjalnych operacji, ze szczególnym uwzględnieniem obszarów niezurbanizowanych i leśnych. Zespół opracuje algorytmy AI do analizy pola walki i jego opisu analitycznego w przestrzenie od 2 do 3D. Zbudujemy unikalne rozwiązania m. in. cyfrowych bliźniaków, wykorzystujące algorytmy sztucznej inteligencji do zwiększenia możliwości systemów zarządzania polem walki (BMS). Zaawansowane techniki analizy danych i uczenia maszynowego, wraz z szeroką wiedzą leśną pozwolą na usprawnienie procesu podejmowania decyzji zarówno na poziomie taktycznym jak i operacyjnym, szczególnie w obszarach niezurbanizowanych i leśnych

• ⁠Zespół Grafiki Komputerowej - lider: dr hab. Przemysław Spurek (LinkedIn)

  Zespół pracuje nad nowoczesnymi technikami tworzenia obrazów 3D, szczególnie skupiając się na metodach NeRF i Gaussian Splatting. NeRF to sposób, który wykorzystuje sztuczną inteligencję do tworzenia realistycznych modeli 3D ze zdjęć. Działa dobrze, ale jego działanie jest powolne i wymaga dużo czasu. Z kolei Gaussian Splatting to nowsza metoda, która zamiast sieci neuronowych używa rozkładów (tzw. Gaussów) do opisania sceny. Dzięki temu działa dużo szybciej i łatwiej można edytować obiekty. Pozwala to na interaktywne zmiany podobne do tych, jakie wykonuje się na klasycznych modelach 3D. Zespół bada też, jak połączyć Gaussian Splatting z generatywnymi modelami AI, by mieć większą kontrolę nad wyglądem i jakością scen 3D.

• Zespół Uczenia w Sterowaniu, Grafach i Sieciach - lider: dr hab. inż. Paweł Wawrzyński (LinkedIn)

  W ramach badań nad grafowymi sieciami neuronowymi zespół rozwija architektury neuronowe kompresujące grafy do postaci wektorów liczb oraz syntezujące grafy. Metody te znajdują zastosowanie w chemii i farmacji, do modelowania relacji między związkami chemicznymi i generowania hipotetycznych związków chemicznych.

  W ramach badań nad wieloagentowym uczeniem ze wzmocnieniem zespół rozwija metody komunikacji w środowisku wieloagentowym. Metody te znajdują zastosowanie w optymalizacji sterowania systemami rozproszonymi, jak sieć energetyczna czy rój dronów.

• ⁠Zespół ds. Robotyki - lider: dr inż. Krzysztof Walas (LinkedIn)

  W naszych badaniach chcemy, żeby roboty nie unikały dotyku, lecz wykorzystywały go do lepszego działania i rozumienia otoczenia. Skupiamy się na połączeniu wzroku i dotyku, by roboty mogły uczyć się fizyki świata, np. jak mocno coś chwycić czy jak chodzić po śliskiej powierzchni. Używamy do tego nowoczesnych technologii, takich jak uczenie maszynowe, wizja komputerowa i zaawansowane przetwarzanie sygnałów. Nasze rozwiązania implementujemy na fizycznych robotach.

• ⁠Zespół ds. Dronów - lider: dr inż. Przemysław Kornatowski (LinkedIn)

  Zespół badawczy zajmuje się projektowaniem, budową oraz testowaniem zaawansowanych systemów dronowych, zarówno pod kątem sprzętowym, jak i programowym. Skupiamy się na rozwiązaniach wykorzystujących heterogeniczne roje dronów, przeznaczonych do realizacji zdywersyfikowanych zadań. W naszych systemach implementujemy nowoczesne algorytmy sztucznej inteligencji, ze szczególnym uwzględnieniem technologii rzeczywistości wirtualnej i rozszerzonej, co znacząco ułatwia bezpieczną i intuicyjną interakcję człowiek–dron. Tworzone rozwiązania mają na celu rozwój efektywnych, autonomicznych systemów wspierających użytkowników w codziennych sytuacjach, ze szczególnym naciskiem na zastosowania poszukiwawczo-ratownicze oraz monitorowanie infrastruktury krytycznej.

• ⁠Zespół ds. Analizy Prywatności i Zgodności Danych - lider: dr Hubert Niewiadomski (LinkedIn)

  Zespół badawczy zajmuje się prowadzeniem badań nad metodami automatycznej analizy danych oraz klasyfikacji treści w kontekście ochrony prywatności i zgodności z regulacjami prawnymi. W szczególności, badamy zastosowanie technik przetwarzania języka naturalnego (NLP) oraz innych metod do identyfikacji informacji wrażliwych oraz oceny ryzyka ich nieuprawnionego ujawnienia lub niewłaściwego wykorzystania.

  Kluczowe obszary badawcze grupy obejmują rozwój algorytmów do precyzyjnego wykrywania treści chronionych, analizę semantyczną dokumentów w celu określenia ich poziomu poufności oraz dostosowywanie procesów klasyfikacyjnych do zmieniających się regulacji.

• Zespół Fenomenologii i Psychiatrii Komputacyjnej - lider: dr hab Marcin Moskalewicz (LinkedIn)

  Zespół zajmuje się prowadzeniem badań związanych z zastosowaniem sztucznej inteligencji w obszarze zdrowia psychicznego, w szczególności służących zrozumieniu doświadczeń neuronatypowych (m.in. osób z autyzmem) w oparciu o dane pierwszoosobowe. Zespół pracuje także nad wykorzystaniem dużych modeli językowych w terapii, badając interakcje agentów z człowiekiem pod kątem bioetycznym.

  Jeśli podobała Ci się rozmowa subskrybuj newsletter trajektorie.pl aby pozostać na bieżąco z nowymi publikacjami.

***

Dr hab. Piotr Sankowski, prof. UW – Jeden z najbardziej rozpoznawalnych polskich naukowców w dziedzinie informatyki i sztucznej inteligencji. Profesor w Instytucie Informatyki na Wydziale Matematyki, Informatyki i Mechaniki Uniwersytetu Warszawskiego oraz założyciel i lider Instytutu Badawczego IDEAS. Jako jedyny polski naukowiec zdobył cztery granty European Research Council: Starting Grant (2010), Proof of Concept Grant (2015 i 2023) i Consolidator Grant (2017). Współzałożyciel spółek technologicznych (m.in. MIM Solutions), aktywnie łączy świat nauki z biznesem.

Linki:

• IDEAS Research Institute

• Profil Google Scholar

• Profil Instytutu Informatyki UW

• Profil na LinkedIn

• Profil na X/Twitter

• Wikipedia

Wszystkie rozmowy na trajektorie.pl:

#10 Dr hab. Piotr Sankowski (Prof. Uniwersytetu Warszawskiego) o Instytucie Badawczym IDEAS

#9 Dr Paweł Gora (Uniwersytet Jagielloński, Warsaw.ai) o tym, że dziś sam kod to za mało

#8 Sebastian Kondracki (Fundacja SpeakLeash, Bielik.ai) o rozwoju Bielika i polskiej AI

#7 Dr inż. Bartosz Ptak (Politechnika Poznańska) o robotyce kosmicznej i projekcie PUT-ISS

#6 dr hab. Agata Starosta (Prof. IBB PAN), dr hab. Artur Obłuski (Prof. UW), dr hab. Kinga Kamieniarz-Gdula (Prof. UAM), dr hab. Michał R. Gdula (UAM), dr Joanna Karolina Malinowska (UAM) o nauce jako polskiej racji stanu

#5 Dr inż. Anna Sztyber-Betley (Politechnika Warszawska) o bezpieczeństwie AI i alignmencie

#4 Dr Wiktoria Mieleszczenko-Kowszewicz (Politechnika Wrocławska) o manipulacjach i efektywnej współpracy z AI

#3 Dr Bartosz Naskręcki (UAM) o benchmarku FrontierMath i przyszłości matematyki w dobie AI

#2 Dr Marcin Rządeczka (UMCS) o iluzji relacji z maszyną i chatbotach terapeutycznych

#1 Aleksander Obuchowski (Politechnika Gdańska, TheLion.ai) o AI w ochronie zdrowia i polskim modelu AI Eskulap

Polscy programiści to światowa czołówka, ale czy potrafimy przekuć świetny kod w rynkowy sukces?

Dr Paweł Gora z Fundacji Quantum AI opowiada o kulisach powstania Warsaw.AI Hackathon. To wydarzenie, które ma wyjść poza schemat typowego kodowania na czas. Organizatorzy, wspierani przez gigantów takich jak Google czy NVIDIA, stawiają na interdyscyplinarność. Celem nie jest już tylko napisanie algorytmu, ale stworzenie prototypu gotowego na rynkowy sukces.

Miło nam poinformować, że trajektorie.pl jest patronem medialnym tego wydarzenia.

Michał Podlewski: Paweł, Fundacja Quantum AI zdążyła nas już przyzwyczaić do wspierania nauki, organizując chociażby konkurs na najlepsze prace dyplomowe w obszarze AI. Teraz wchodzicie w format hackathonu. Skąd pomysł na to wydarzenie właśnie teraz i jaki jest jego główny cel?

Dr Paweł Gora: Jako Fundacja Quantum AI prowadzimy wiele inicjatyw edukacyjnych, przyczyniając się do rozwoju ekosystemu AI w Polsce i za granicą. Poza wspomnianym konkursem realizujemy m.in. program match-makingu do staży badawczych w obszarze AI – AIntern, organizujemy meetup Warsaw.AI adresowany do specjalistów, a także wydajemy newsletter Warsaw.AI News [Polecam. Świetna selekcja cotygodniowych nowości: Michał Podlewski].

To właśnie podczas jednego z meetupów Warsaw.AI narodziła się koncepcja hackathonu. Na afterparty rozmawiałem z Piotrem Sobczakiem (jednym ze stałych bywalców, który pomaga również wydawać nasz newsletter), i to on zaproponował organizację wydarzenia, którego celem byłoby tworzenie produktów bazujących na AI, a nie tylko samej technologii.

Idea była prosta: połączyć ludzi o różnych kompetencjach i stworzyć przestrzeń interdyscyplinarną. Chcieliśmy, aby uczestnicy, wychodząc ze swoich „baniek”, uzupełnili swoje umiejętności i stworzyli prototyp, który jest przemyślany i ma większą szansę na rynkowy sukces.

Obecnie tworzenie nowych rozwiązań technologicznych jest coraz prostsze, również dzięki AI. Prawdziwym wyzwaniem jest jednak sprawienie, by to rozwiązanie zamieniło się w gotowy produkt, który przyjmie się na rynku na dłużej. Wielokrotnie spotykałem się z opiniami, że kształcimy w Polsce znakomitych informatyków – świetnych „rozwiązywaczy problemów” zdefiniowanych przez kogoś innego – ale nieco gorzej radzimy sobie w obszarze kompetencji biznesowych, zwłaszcza w doborze właściwych problemów i myśleniu produktowym. Być może to jeden z powodów, dla których wciąż nie mamy tylu globalnych firm technologicznych, na ile wskazywałby nasz potencjał. Brakuje nam też wzajemnego zrozumienia na styku różnych kompetencji.

Osobiście lubię hackathony – w wielu startowałem, kilka wygrałem, a w ramach Fundacji od lat organizuję zdalny QPoland Global Quantum Hackathon. Uznałem więc, że wydarzenie stacjonarne poświęcone AI to strzał w dziesiątkę. Rozwijaliśmy ten pomysł z Piotrem przez kilka miesięcy, później dołączył do nas Wiktor Mendalka, a następnie kolejne osoby ze społeczności Warsaw.AI. Tak powstał Warsaw.AI Hackathon, którego pierwsza edycja odbędzie się w dniach 29–30 listopada w Campus Google for Startups. Szczegóły i rejestracja dostępne są na stronie: https://hackathon.warsaw.ai

Do kogo konkretnie kierujecie zaproszenie na Warsaw.AI Hackathon? Czy to wydarzenie stricte dla programistów i inżynierów ML, czy znajdzie się tu miejsce – i zadania – także dla osób z innymi kompetencjami?

Zależy nam na zespołach interdyscyplinarnych. W przeciwieństwie do meet-upu Warsaw.AI, to wydarzenie kierujemy nie tylko do specjalistów od sztucznej inteligencji, ale również do osób z zacięciem biznesowym i produktowym. Wierzymy, że sukcesy odnoszą zespoły łączące różne perspektywy.

Oczywiście, osoby techniczne często posiadają też świetne kompetencje miękkie czy biznesowe. Zespoły złożone wyłącznie z inżynierów są mile widziane, ale będą musiały wykazać się również w innych obszarach, takich jak UX/UI, marketing czy umiejętność prezentacji (pitchingu).

Uczestnicy będą mogli wybrać jedno z zadań zaproponowanych przez naszych partnerów lub wystartować w ścieżce otwartej, pracując nad własnym pomysłem.

Macie na pokładzie potężnych partnerów – Google, NVIDIA, Cyfronet – i pulę nagród 10 tys. zł. Czym ma wyróżniać się Warsaw.AI Hackathon na tle innych tego typu imprez w Polsce?

Tak, wsparcie partnerów jest nieocenione. Nasz hackathon ma wyróżniać się przede wszystkim wyjątkowo mocnym połączeniem technologii, biznesu i projektowania – czyli pełnym, produktowym podejściem do AI. Wiele hackathonów skupia się na kodzie. My chcemy, aby zespoły nie tylko stworzyły działający prototyp, ale też zdefiniowały realny problem, zaprojektowały sensowny user experience i zbudowały wartość biznesową.

Po drugie, hackathon poprzedzają warsztaty oraz match-making. Dzięki temu uczestnicy wejdą w wydarzenie lepiej przygotowani i już w interdyscyplinarnych zespołach, co znacząco podnosi poziom projektów.

Stawiamy również na wysokiej jakości mentoring. Uczestnicy będą mieli dostęp do ekspertów AI, product managerów, projektantów, prawników i marketerów. Cieszymy się, że wśród mentorów jest m.in. Przemek Dębiak (Psyho) – jeden z najlepszych programistów w Polsce.

Naszym celem jest, by Warsaw.AI Hackathon był nie tylko weekendową rywalizacją, ale impulsem do powstania nowych produktów i startupów w polskim ekosystemie.

Co Twoim zdaniem będzie największym wyzwaniem dla zespołów podczas tych intensywnych dwóch dni?

Jak to zwykle bywa – presja czasu. Sporym wyzwaniem będzie też zrównoważenie aspektu technologicznego z biznesowym. Spodziewam się również, że trudna może okazać się szybka integracja w zespole, szczególnie jeśli uczestnicy będą ze sobą współpracować po raz pierwszy.

W agendzie widzę debatę o komercjalizacji. Czy chcecie pokazać, że w Warszawie mogą powstawać globalne produkty AI? Co stanie się z pomysłami po wydarzeniu?

Zdecydowanie tak – chcemy, aby w Polsce powstawało jak najwięcej globalnych produktów AI. Domyślnie prawa autorskie do rozwiązań pozostają po stronie uczestników (będą oni jednak musieli udzielić licencji umożliwiającej ocenę prac przez Jury).

Mamy nadzieję, że projekty ze ścieżki otwartej przekształcą się w startupy, które dalej będą wspierane przez naszych mentorów. W przypadku zadań partnerskich liczymy na nawiązanie stałej współpracy między zwycięskimi zespołami a firmami, które zgłosiły dany problem biznesowy.

Co Ty, jako organizator, uznasz za swój osobisty sukces w niedzielny wieczór, gdy opadnie już kurz po finale?

Sukcesem będzie moment, w którym usłyszę, że uczestnicy wyjeżdżają z nową wiedzą, kontaktami i poczuciem, że ten weekend miał realny wpływ na ich przyszłość. Chciałbym, aby nie tylko ciężko pracowali, ale też dobrze się bawili i poczuli częścią innowacyjnej wspólnoty. A największą satysfakcją będzie dla mnie, jeśli za jakiś czas dowiem się, że zespoły sformowane na hackathonie kontynuują pracę nad swoimi projektami.

Dlaczego warto poświęcić ostatni weekend listopada, by pojawić się na Campusie Google?

To unikalna okazja do pracy nad realnymi problemami ramię w ramię z pasjonatami i ekspertami. Spotkasz tu liderów branży, przedstawicieli globalnych gigantów technologicznych i ambitnych twórców. Zyskasz dostęp do mentorów, którzy pomogą Ci w każdym aspekcie – od algorytmów po strategię produktu. To najlepszy sposób na zdobycie doświadczenia, kontaktów i... po prostu dobrą zabawę w inspirującej atmosferze.

Serdecznie zapraszam w imieniu wszystkich organizatorów!

***

Dr Paweł Gora – naukowiec, informatyk, przedsiębiorca i popularyzator nauki. Zajmuje się zastosowaniami sztucznej inteligencji i obliczeń kwantowych, szczególnie w obszarach transportu i medycyny.

Absolwent Wydziału Matematyki, Informatyki i Mechaniki Uniwersytetu Warszawskiego (uzyskał tam tytuł magistra matematyki i informatyki oraz doktorat z informatyki). Obecnie pracuje naukowo na Uniwersytecie Jagiellońskim (wcześniej w Sano). Jest założycielem i Prezesem Fundacji Quantum AI, przewodniczącym zarządu QWorld oraz koordynatorem QPoland. Zasiada również w Zarządzie Komitetu Technologii Kwantowych przy Krajowej Izbie Gospodarczej.

Aktywnie wspiera ekosystem innowacji jako doradca technologiczny i biznesowy dla startupów. Doświadczenie zdobywał m.in. podczas staży badawczych i inżynierskich w Microsoft, Google, CERN oraz IBM Research. Były członek Rady ds. Cyfryzacji.

Linki:

Fundacja Quantum AI

Profil Pawła na stronie Ministerstwa Cyfryzacji

Profil Pawła na MIM UW

Profil Pawła na LinkedInie

Profil Pawła na X

Warsaw.AI Newsletter

Warsaw.AI Hackathon

Subscribe now

W czasach, gdy każdy gigant technologiczny ściga się o coraz to większe modele AI, w Polsce rośnie projekt, który uparcie idzie własną drogą. „Obywatel Bielik” – to coś więcej niż zaledwie kolejny duży model językowy; to inicjatywa, która zaprasza Polaków do współtworzenia zbioru danych opisujących naszą historię, kulturę, tradycje i codzienność. Każdy element tej układanki zasila model, który z założenia ma lepiej rozumieć nasz język i nasze realia, niż jakikolwiek globalny system. Celem nie jest rozmiar, ale precyzja – i stworzenie modelu, który naprawdę rozumie polski kontekst kulturowy oraz językowy.

W rozmowie z Sebastianem Kondrackim pytamy, jak narodził się ten projekt, dlaczego Polska potrzebuje własnych superkomputerów, co stoi za globalną rozpoznawalnością Bielika – i jak stworzyć warunki, w których młode polskie talenty AI nie będą musiały szukać przyszłości za granicą?

Michał Podlewski, Kamil Pawlik: Bielik ostatnio wyfrunął w świat, co widać po waszej aktywności na międzynarodowych konferencjach. Wasze podejście zostało docenione w Chinach przez DeepSeeka, mieliście też prezentacje w USA na Techcrunch. Jaki jest główny cel tej globalnej obecności i czego szukacie dla projektu na arenie międzynarodowej?

Sebastian Kondracki: Chcemy, aby Bielik stał się silną marką międzynarodową z wyraźnym polskim akcentem. Z dwóch powodów. Po pierwsze Bielik 3.0 będzie wersją wielojęzyczną. Po drugie Bielik.AI to nie tylko model, lecz także zestaw danych, framework, benchmarki i społeczność. W Polsce widzimy już, że Bielik ma swoje pięć minut, jest rozpoznawalny i potrafi promować rodzime startupy oraz firmy, jak Gaius-Lex i AISay.co, dlatego chcemy powtórzyć to globalnie. Budujemy obywatelską markę Bielik, aby w trakcie rozmów z inwestorami z Doliny Krzemowej ktoś mógł powiedzieć, że współtworzył Bielika i chce teraz rozwijać własny model lub startup. Nasze ostatnie wyjazdy to potwierdzają. Podczas wizyty w Chinach przedstawiciele DeepSeek znali Bielika i docenili nasze podejście do danych. Framework Krzysztofa Ociepy1 cieszy się dużym zainteresowaniem ze strony społeczności sg_lang i Qwen (również prelekcja Chiny), Sebastian Raschka2 cytuje na X/Twitter nasze raporty z treningu i zwraca uwagę na sprytne, niestandardowe triki, PyTorch chwali proces treningowy na kartach GH200, a współpraca z NVIDIA otwiera drzwi do wspólnych wdrożeń. Na tym fundamencie chcemy, aby członkowie naszej społeczności, Polacy budowali kolejne już komercyjne projekty.

Myślicie też o tournée po polskich miastach, żeby przybliżyć mieszkańcom inicjatywę „Obywatel Bielik”?

Tak, mamy już dwa projekty z tournée po polskich miastach, czyli „Obywatel Bielik3” to wyjątkowy projekt obywatelski w skali Europy. Wspólnie tworzymy cyfrową pamięć Polski, w której kultura, historia i tradycja zyskują nowe życie w świecie cyfrowym. Naszym celem jest 1 milion zdjęć i opisów w ciągu kwartału, a wersja beta umożliwia już dodawanie zdjęć online. Mobilna aplikacja jest w drodze! Tu właśnie ważnym elementem jest aktywizacja lokalnych społeczności np. seniorzy, harcerzy, miłośników historii.

Nasz najnowszy projekt to Eskadra Bielika4. Mamy już 49 certyfikowanych trenerów z obszaru Bielik i systemy agentowe, a do połowy grudnia planujemy przeszkolić 2000 deweloperów z całej Polski, którzy będą tworzyć rozwiązania oparte na Bieliku. Co ważne, trenerzy będą tworzyć spotkania, meetupy lokalnie w swoich społecznościach.

Pojawia się obawa, że zagraniczne modele mogą „powielać obce wzorce kulturowe”. Wy mówicie, że „Czas na technopatriotyzm”. Czy Twoim zdaniem w epoce globalnych technologii, współtworzenie AI może stać się taką nową formą dbania o dziedzictwo narodowe?

Tak! Kiedy zapytałem nasz zespół trenujący jakich danych potrzebują, aby tworzyć coraz lepszy model, powiedzieli: danych, jakich nie ma Internecie, których nikt nie widział! Zatem dane zamknięte w archiwach lub naszych domach, a bardziej domach naszych dziadków. No i teraz mamy tą super sytuacje, kiedy zbierając i ewidencjonując nasze dziedzictwo narodowe, możemy tworzyć lepsze modele AI, które będą działać tu i teraz. Np. w Narodowym Archiwum Cyfrowym są zdjęcia przedwojenne, ale także dokumenty w języku niemieckim i rosyjskim oraz zdjęcia lotnicze. Zatem dziedzictwo narodowe a z drugiej strony świetne dane do uczenia młodych adeptów deep techu czy też tworzenia w swoich rozwiązaniach analizę dokumentów w języku niemieckim, czy rosyjskim. Oczywiście te dane trzeba zebrać, czasem ręcznie przeglądać, czy też maszynowo, jednak możemy aktywizować społeczeństwo (również te mniej obyte cyfrowo), budować duże zbiory dziedzictwa narodowego jak i tworzyć fantastyczne modele AI.

Jak można wesprzeć wasze działania?

Myślę, że są dwie drogi, aby nas wesprzeć. Pierwsza to dołączyć do nas i zaangażować się w projekty takie jak Obywatel Bielik. Oczywiście wymaga to czasu, a nie każdy może sobie na to pozwolić.

Druga droga to udzielanie informacji zwrotnej. Jeśli uczycie się sztucznej inteligencji w pracy lub w szkole, jeśli ćwiczycie rozmowy z modelami AI, oprócz GPT, Gemini czy Claude, uruchomcie także Bielika. Zadajcie mu te same pytania (prompty) i nawet jeśli odpowie inaczej lub błędnie (bo to jeszcze mały model), podzielcie się swoją opinią.

Taka informacja zwrotna pomaga nam lepiej zrozumieć, do czego chcecie wykorzystywać modele i jak możemy rozwijać Bielika w odpowiednim kierunku.

Wyróżnikiem Bielika jest fakt, że aż 90% jego danych treningowych to teksty polskie. Czy potrzebujemy w Polsce „uwolnienia” danych biorąc pod uwagę dalszy rozwój modeli?

Tak, zdecydowanie tak! Niestety większość modeli, zarówno polskich, jak i zagranicznych, jest trenowana głównie na danych pochodzących ze stron internetowych. Wraz z wejściem w życie regulacji takich jak AI Act oraz pojawieniem się dedykowanych regulaminów serwisów WWW dotyczących wykorzystania danych przez AI, dostępnych zasobów nie przybywa, lecz ubywa. Rozumiem potrzebę ochrony praw autorskich, ale sytuacja jest trudna; nawet jeśli dziś powstałoby konsorcjum obejmujące wszystkie polskie wydawnictwa, to większość z nich nie ma podpisanych umów z autorami swoich tekstów w kontekście trenowania modeli AI. Dodatkowo mamy ogromne, wciąż niewykorzystane zasoby w postaci danych biznesowych – nie tylko tych z sektora przetwarzania tekstów, ale też takich jak instrukcje obsługi, specyfikacje techniczne czy dokumentacja produktów. Do tego dochodzi obszar archiwów publicznych i edukacji, w tym prace dyplomowe, które mogłyby stanowić cenne źródło wiedzy.

Nie chodzi więc wyłącznie o „uwolnienie” danych, ale o wspólne poszukiwanie nowych modeli współpracy i biznesu. Wydawcy z jednej strony tracą na działalności zagranicznych bigtechów i platform społecznościowych, a z drugiej – wciąż brakuje rozmowy o tym, jak tworzyć zrównoważone, partnerskie modele rozwoju.

A co z ogromnymi zasobami, które leżą w polskich repozytoriach naukowych? Może stworzenie modelu „Bielik Open Science” we współpracy z polskimi badaczami pomogłoby w rozwoju naszej nauki.

Dokładnie tak – staramy się to robić i prowadzimy w tym kierunku rozmowy. Właśnie dlatego współpracujemy z Narodowym Archiwum Cyfrowym, NASK, Cyfronetem i oczywiście w ramach projektu Bielik. Byłoby jednak świetnie, gdyby podobne inicjatywy częściej wychodziły także od instytucji centralnych. Do współpracy zapraszane są również projekty otwarte, takie jak SpeakLeash5 czy Bielik.AI. Dużo się w tej sferze zmienia – i to na lepsze. Dlatego nie chciałbym teraz dramatyzować, bo naprawdę prowadzimy wiele konstruktywnych rozmów i widać, że temat zaczyna nabierać tempa.

Można by rzecz, że model językowy to takie „zwierciadło kultury”. Gdybyśmy spojrzeli w to zwierciadło, to co Bielik pokazuje nam o polskiej kulturze i języku, czego nie zobaczymy w odbiciu z modeli trenowanych głównie na danych anglojęzycznych?

Zacznę od zaskoczenia: choć mówimy o kulturze, Bielik nie jest modelem pełnym poetyckich niuansów czy encyklopedią obyczajów. Ma 11 miliardów parametrów i świadomie wykorzystujemy je tak, aby priorytetem była skuteczność w zadaniach językowych, rozumieniu kontekstu, planowaniu i dialogu, a dopiero potem detale kulturowe. To kompromis konieczny, aby model mógł działać na dostępnych w Polsce zasobach GPU i żeby użytkownicy mogli uruchamiać go również lokalnie.

Ale nawet w takim kompaktowym modelu polskość przebija się naturalnie i to w miejscach, których nie zobaczymy w modelach trenowanych głównie na angielskich danych. To przede wszystkim:

• idiomy i powiedzenia,

• nasza specyficzna ironia, sarkazm i humor,

• detale językowe, jak naturalny sposób pisania tytułów i śródtytułów.

Model odróżnia też rzeczy, które dla polskiego odbiorcy są oczywiste, a dla globalnych systemów – trudne do uchwycenia. Przykład? Subtelna różnica między żurkiem, a barszczem białym. Albo rozpoznawanie potraw i produktów regionalnych, które w Polsce są częścią codzienności, a w anglosaskich zbiorach danych praktycznie nie istnieją.

Oczywiście nie da się w takim kompaktowym modelu zmieścić całego bogactwa lokalnych dialektów, gwar czy zwyczajów. To wymagałoby większych architektur albo precyzyjnego dostrajania pod konkretne regiony czy zastosowania.

Stąd właśnie projekty takie jak Obywatel Bielik – budowanie oddolnego, wysokiej jakości zbioru danych opisujących polskie realia, zdjęcia, tradycje i historię. Uzupełniamy to narzędziami badawczymi, np. benchmarkiem Polish Cultural Vision Benchmark6, który sprawdza, jak różne modele radzą sobie z elementami polskiej kultury. To pozwala nam nie tylko analizować, ale też systematycznie poprawiać jakość rozumienia kulturowego w Bieliku.

Czym była podyktowana decyzja o oparciu modelu na chińskim Qwen zamiast na europejskim Mistralu? Jak dużo jest tam waszych autorskich modyfikacji w stosunku do modelu bazowego?

Warto to od razu doprecyzować – nie porzuciliśmy inicjacji wagami Mistrala. Wręcz przeciwnie, w wersji 11B nadal korzystamy z tych wag.

Równolegle chcieliśmy jednak stworzyć coś zupełnie innego: Bieliki ultralekkie, czyli 1.5B oraz 4.5B – przeznaczone do zwinnych zastosowań, agentów, edge computingu i eksperymentów z dostrajaniem. I tu okazało się, że najlepszy punkt startowy, jeśli chodzi o inicjalizację wag, zaoferował Qwen. Po prostu w tej klasie rozmiarów radził sobie najlepiej, szczególnie w kontekście dalszego dostrajania i adaptacji językowych.

To nie jest więc „zmiana frontu”, ale dobór narzędzia do zadania. Duży model – Mistral. Małe modele – Qwen. Proste.

Jeśli chodzi o modyfikacje, to trochę ich było, ale dla mnie najbardziej kluczowa to wymiana tokenizera na polski. Wymiana tokenizera miała na celu zoptymalizowanie wydajności (szybkości generowania) modelu dla języka polskiego. Resztę szczegółów zespół opisał w raporcie technicznym7 – zachęcam do lektury, bo zespół trenujący wykonał świetną, transparentną robotę i pokazał krok po kroku wszystkie decyzje i wyniki.

Porozmawiajmy o praktycznym wpływie Bielika. W jakich obszarach – edukacji, biznesie czy administracji – upatrujesz największy potencjał transformacyjny i czy ta wizja już się materializuje w postaci konkretnych wdrożeń? Jakie organizacje już wykorzystują Bielika w praktyce?

Modele kompaktowe, takie jak Bielik 11B, idealnie wpisują się w potrzeby sektorów, gdzie występują trzy kluczowe elementy: wrażliwe dane, duże wolumeny informacji i konieczność pełnej obsługi języka polskiego. Dlatego naturalnym środowiskiem dla Bielika są dziś przede wszystkim organizacje regulowane – banki, instytucje finansowe czy ubezpieczyciele. To tam widać największy potencjał transformacyjny, bo tradycyjne narzędzia nie radzą sobie z taką skalą ani z wymogami bezpieczeństwa.

Równolegle pojawia się coraz więcej zadań, w których nie opłaca się korzystać z zamkniętych, dużych modeli ze względu na koszty. Mówimy o milionach maili, setkach tysięcy logów systemowych czy ogromnych feedach produktowych w e-commerce. To obszary, gdzie Bielik realnie zmienia sposób pracy: automatyzuje, porządkuje i strukturyzuje dane, a koszt działania pozostaje sensowny.

Ciekawym przykładem są też zastosowania hybrydowe. Bielik generuje uporządkowane, wysokiej jakości, dane np. pod grafy wiedzy, a następnie inne techniki AI wykorzystują je do predykcji połączeń, wnioskowania czy zaawansowanej wizualizacji. Takie pipeline-y zaczynają działać w wielu firmach i widać, że organizacje traktują Bielika jako element szerszej architektury, nie tylko narzędzie dialogowe.

To pokazuje, że ta transformacja już się materializuje. Mamy wdrożenia, mamy realne use cases i mamy partnerów, którzy po pilotażach skalują rozwiązania. W wielu miejscach Bielik staje się pierwszym wyborem właśnie dlatego, że działa lokalnie, jest szybki, bezpieczny i świetnie rozumie polski kontekst.

W jednym wywiadzie użyłeś obrazowego porównania AI do samochodów – nie zawsze potrzebujemy limuzyny, czasem wystarczy „zwinna furgonetka do zadań specjalnych”. Przenosząc tę metaforę na polską gospodarkę: jakie „furgonetki”, czyli wyspecjalizowane modele branżowe, powinniśmy budować w pierwszej kolejności? Czy są to właśnie takie projekty jak ,,Gaius-Lex” dla prawa i „Eskulap” dla medycyny? A może dedykowane modele niszowe do zainstalowania w dronie?

Tak, dokładnie o to chodzi. Są dwa kierunki, w których ta „flota furgonetek” powinna rosnąć. Po pierwsze – startupy, które dzięki dostrajaniu Bielika mogą budować bardzo wyrazistą przewagę w swojej branży. Przykłady takie jak Gaius-Lex czy Eskulap pokazują, że specjalizacja naprawdę działa: wystarczy dobrze dobrany zestaw danych i odpowiednie finetuning, żeby model stał się ekspertem w wąskim obszarze. I to jest niezwykle cenne, bo pozwala tworzyć rozwiązania szybsze, tańsze i bezpieczniejsze niż ogólne modele w chmurze.

Drugi kierunek to małe, skwantyfikowane wersje Bielika, które coraz częściej trafiają na urządzenia mobilne. Widzimy, że deweloperzy eksperymentują z lokalnym uruchamianiem modeli na smartfonach czy laptopach – i to otwiera zupełnie nową przestrzeń innowacji. Lokalne działanie oznacza niski koszt, brak zależności od internetu i pełną kontrolę nad danymi. To idealne środowisko do budowania szeregu branżowych minimodeli – od aplikacji terenowych po systemy wspierające pracę w zakładach produkcyjnych.

A jeśli chodzi o modele na dronach – to trochę inny obszar, ale równie istotny. Tam potrzeba bardzo wyspecjalizowanych, ultralekkich modeli, które działają w czasie rzeczywistym i potrafią przetwarzać sensoryczne dane. Wierzę, że powinniśmy rozwijać kompetencje także w tym kierunku, bo edge-computing to przyszłość. I właśnie dlatego budujemy Eskadrę Bielika – mamy już około 50 certyfikowanych trenerów, a do końca roku chcemy przeszkolić tysiące deweloperów w całej Polsce. To oni będą tworzyć te „furgonetki”, wyspecjalizowane modele do zadań, o których dziś jeszcze nawet nie myślimy.

To dopiero początek, ale kluczowy – bo zanim zbudujemy setki modeli specjalizowanych, musimy najpierw zbudować kompetencje. I to właśnie robimy.

Często powtarzasz, że chcecie „iść drogą Linuxa”. To rodzi kluczowe pytanie o model biznesowy. Sam Linux jest darmowy, ale firmy takie jak Red Hat zbudowały na nim globalne biznesy, sprzedając wsparcie i usługi. Czy tak właśnie wyobrażacie sobie przyszłość finansową waszej działalności, i w której jedna z powiązanych organizacji będzie pełnić rolę takiego „polskiego Red Hata”, oferując firmom płatne wdrożenia, wsparcie techniczne i specjalizowane wersje modelu?

Dokładnie tak – inspiruje nas nie tylko sam Linux, ale cały ekosystem, który wokół niego powstał. Warto pamiętać, że Linux ma swojego opiekuna w postaci Linux Foundation. Ta fundacja nie zarabia na licencjach, ale na sponsorach i partnerach – i co ciekawe, sponsorami są często firmy, które konkurują ze sobą na rynku. To pokazuje, że wspólne utrzymanie otwartego, strategicznego zasobu po prostu wszystkim się opłaca.

My myślimy o Bieliku i powiązanych projektach w podobny sposób. Fundacja SpeakLeash ma rozwijać to, co jest fundamentem: sam model, benchmarki, frameworki treningowe, zestawy danych – czyli wszystko, co służy całej społeczności. I tak jak Linux Foundation, chcemy, aby działała dzięki wsparciu sponsorów, a nie poprzez zamykanie technologii.

A jeśli ktoś na bazie Bielika zbuduje świetny produkt branżowy – medyczny, prawny, przemysłowy czy jakikolwiek inny – to fantastycznie. Niech działa komercyjnie, skaluje się globalnie i zarabia. To jest właśnie idea otwartego ekosystemu: fundacja dba o fundamenty, a rynek buduje rozwiązania i innowacje.

Jeśli któryś z takich projektów stanie się polskim jednorożcem, wierzymy, że wróci do wspierania ekosystemu – choćby w formie sponsoringu. Karma w technologii działa zaskakująco skutecznie.

Utrzymujecie się z datków społeczności, szukacie też sponsorów, ale na waszych warunkach. Czy nie dziwi Cię fakt jak polscy miliarderzy i największe polskie firmy wydają się stać z boku rewolucji AI? Z czego Twoim zdaniem wynika ta bierność?

Nie powiedziałbym, że polscy miliarderzy czy duże firmy stoją z boku. To trochę złudzenie wynikające z tempa, jakie narzuca dziś świat AI. Pamiętajmy, że większość dużych biznesów w Polsce działa w sektorach regulowanych – finansach, energetyce, telekomunikacji, logistyce. Tam każda innowacja musi przejść proces absorpcji: analizy ryzyka, zgodności z regulacjami, oceny wpływu na wizerunek i bezpieczeństwo. To nie jest bierność, tylko kontrolowany, odpowiedzialny ruch.

Z perspektywy Bielika i mojej pracy w Deviniti widzę coś zupełnie innego: zainteresowanie rośnie, rozmowy są coraz bardziej konkretne i zaczyna się etap świadomych wdrożeń. Wiele firm już eksperymentuje, ale nie robi tego jeszcze głośno, bo po prostu nie chcą „wpadek” ani wizerunkowych, ani prawnych. To naturalny etap dojrzewania rynku.

I tak jak w wielu innych krajach – najpierw działają startupy i społeczność open source, później budują się kompetencje, a dopiero na końcu przychodzą najwięksi gracze z dużymi budżetami. Ta fala już ruszyła i myślę, że w kolejnych miesiącach zobaczymy znacznie więcej konkretnych inwestycji i partnerstw. Rynek nie śpi – po prostu działa bardziej ostrożnie, niż byśmy tego chcieli.

Przed wami bardzo ambitny projekt „Der Bielik”. Skąd decyzja, by to właśnie rynek niemieckojęzyczny był pierwszym kierunkiem waszej zagranicznej ekspansji?

Pomysł na „Der Bielik” pojawił się właściwie spontanicznie. Zgłosiliśmy Bielika do kilku zagranicznych testów i nagle okazało się, że w niektórych językach radzi sobie zaskakująco dobrze – czasem nawet lepiej niż modele tworzone natywnie dla danego rynku. Jednym z takich języków był niemiecki. To było dla nas sygnałem, że warto spróbować wejścia w obszar DACH, bo już na starcie mamy tam pewną przewagę jakościową.

Drugi powód jest bardziej strategiczny. Od dawna bardzo podoba mi się koncepcja Aleph Alpha (teraz trochę kontrowersyjna i mało ruchliwa) – to przykład firmy, która rozwija się w duchu europejskiej suwerenności technologicznej. Zawsze miałem w sobie trochę pozytywnej zazdrości wobec ich skali i odwagi. Chciałbym, żeby w Polsce też powstał podmiot o podobnym rozmachu, łączący badania, komercjalizację i lokalne kompetencje. „Der Bielik” jest dla mnie symbolicznym krokiem w tym kierunku: pokazujemy, że możemy rywalizować jak równy z równym i że nie musimy ograniczać się tylko do rynku polskiego.

A patrząc do przodu – wersja 3.0 idzie jeszcze dalej. Nie tylko modele specjalizowane dla konkretnych języków, ale także podejście bardziej wielojęzyczne, obejmujące również mniejsze i „egzotyczne” języki europejskie, takie jak albański. To duże wyzwanie, ale też ogromna szansa. Więc tak – przygotujcie się, bo dopiero zaczynamy. Stay tuned!

Kluczową rolę w realizacji waszego projektu odegrał Cyfronet AGH i dyrektor Marek Magryś. Jak ważne jest, aby Polska jako państwo inwestowała w publiczne superkomputery, by takie innowacje jak wasza w ogóle mogły powstawać? Jak duże są potrzeby GPU?

Jeśli spojrzymy tylko na dzisiejsze modele tekstowe – te kompaktowe, w stylu Bielika czy PLlum – to tak, obecne zasoby GPU w Polsce są wystarczające. Ale to jest jedynie pierwszy etap tej rewolucji. Już teraz przygotowujemy Bielika do multimodalności, co oznacza analizę obrazów, a w kolejnych krokach również dźwięku czy wideo. To zupełnie inne potrzeby obliczeniowe.

Do tego dochodzi nasza wizja modeli niszowych. Wyobraźmy sobie, że firmy zaczynają trenować własne multimodalne modele specjalizowane pod branżę fashion, medycynę, przemysł czy logistykę. Nagle nie mówimy już o dwóch podmiotach trenujących modele, tylko o setkach. I każdy z nich potrzebuje zasobów obliczeniowych – stabilnych, dostępnych i skalowalnych.

Dlatego moim zdaniem Polska powinna inwestować w publiczne superkomputery, bo to infrastruktura krytyczna. Tak samo jak drogi, jak energetyka czy łączność. Bez niej nie da się zbudować lokalnego ekosystemu AI, ani dla nauki, ani dla biznesu.

W tym kontekście rola Cyfronetu AGH i dyrektora Marka Magrysia jest absolutnie kluczowa. To jest zespół światowej klasy specjalistów, którzy nie tylko rozumieją LLM-y, ale realnie wspierają ich rozwój. Dlatego tak cieszę się z powstania Gaia AI Factory – to dokładnie taki „silnik infrastrukturalny”, jakiego potrzebujemy.

Jeżeli chcemy, by Polacy tworzyli innowacje, a nie tylko je konsumowali, musimy mieć własne fabryki AI. I Cyfronet, PCSS pokazuje, że to jest możliwe. Trzymać ten kurs!

Wspomniałeś w jednym wywiadzie, że było zainteresowanie waszymi ludźmi ze strony pewnej bardzo wpływowej ambasady, która oferowała możliwości realizacji doktoratu w tym kraju. Jak w polskich warunkach zatrzymać największe talenty AI, żeby nie zostały podkupione przez zagranicznych gigantów?

Tak, takie sytuacje się zdarzają i nie ma co się dziwić – polscy specjaliści AI są bardzo cenieni, a globalne instytucje mają w tym obszarze ogromne budżety i potrafią je wykorzystać. Jeśli chcemy zatrzymać talenty w Polsce, musimy działać na dwóch poziomach.

Po pierwsze – finansowym. Profesor Sankowski8 od lat podkreśla, że doktoranci i młodzi naukowcy powinni zarabiać na poziomie konkurencyjnym wobec biznesu, a najlepiej zbliżonym do menedżerskiego. Inaczej nie ma szans stworzyć stabilnego środowiska dla badań. To nie jest luksus, to warunek konieczny. Jeśli ktoś ma wybór między doktoratem za 4-5 tys. zł a ofertą z zagranicy, gdzie na start dostaje kilkukrotność (albo i 10x) tej kwoty i dostęp do najnowszej infrastruktury, to decyzja jest oczywista.

Po drugie – mentalnym. Musimy tworzyć projekty, które są ambitne, ryzykowne, czasem wręcz „niemożliwe”. Talenty nie uciekają tylko dla pieniędzy – uciekają tam, gdzie czują, że mogą zmieniać świat. Gdzie mogą pracować nad czymś przełomowym, a nie tylko nad implementacją rozwiązań z zewnątrz.

Dlatego potrzebujemy połączenia trzech sił: nauki, biznesu i open source. Każda z nich jest ważna, ale dopiero razem tworzą przestrzeń, w której młody badacz może zarówno zarabiać, jak i odkrywać, eksperymentować i budować coś własnego. I właśnie takie środowisko staramy się tworzyć wokół Bielika – otwarte, odważne i ambitne.

Jeśli chcemy zatrzymać najlepszych, musimy im dać powód, by zostali. I myślę, że coraz częściej udaje nam się ten powód stworzyć.

Profesor Janusz Filipiak opisał historię sukcesu firmy Comarch w książce zatytułowanej „Dlaczego się udało?”. Gdybyś miał odpowiedzieć na to samo pytanie w kontekście Bielika – Dlaczego wam się udało i kto stoi za tym sukcesem?

Jeśli miałbym odpowiedzieć na pytanie „Dlaczego nam się udało?”, to wskazałbym kilka elementów, które od początku były fundamentem SpeakLeash i Bielika.

Po pierwsze – sposób działania. Mimo że projekt jest open source i oparty na wolontariacie, od samego startu pracowaliśmy jak w biznesie. Stawialiśmy na szybkie iteracje, odważne pomysły, growth hacking, ciągłe testowanie hipotez i pełną gotowość do zmiany planów albo nawet „ubijania” projektów, które nie rokowały. To podejście startupowe, ale zastosowane w środowisku open source – i okazało się niezwykle skuteczne.

Po drugie – bardzo świadomie budowaliśmy narrację i kulturę organizacji. Kiedy zakładaliśmy SpeakLeash, pierwszym krokiem było przygotowanie pitcha, który… nie miał przyciągać inwestorów. Miał przyciągać ludzi. Pokazywaliśmy ambitne plany, konkretne wskaźniki, wizję, która motywowała do działania. I to działało. Kontrybutorzy dołączali, bo czuli, że wchodzą w projekt, który stawia wysoko poprzeczkę i realnie zmienia rzeczywistość.

Po trzecie – inspirowaliśmy się najlepszymi. Wzorowaliśmy się na Linux Foundation, na filozofiach open source, na koncepcji „katedra vs bazar”. Od początku wiedzieliśmy, że kluczem jest otwartość, transparentność i tworzenie wspólnej infrastruktury dla innych. Nie baliśmy się myśleć globalnie, nawet jeśli zaczynaliśmy lokalnie.

I wreszcie – ludzie. To nasz największy sukces. Dzięki temu podejściu przyciągamy fantastyczne osoby: inżynierów, badaczy, wolontariuszy, twórców, praktyków. Ludzi, którzy chcą robić coś, co ma sens, i którzy potrafią wnieść do projektu swoje kompetencje i energię. To nigdy nie jest zasługa jednej osoby – to efekt zespołu, społeczności i wspólnej wizji.

Dlatego nam się udało. Bo łączymy odwagę, strukturę i kulturę, która przyciąga talenty. I chcemy tę drogę kontynuować.

Na koniec, czego wam życzyć i jakie są wasze plany na najbliższe miesiące, o których możesz już dziś opowiedzieć? Do Bielika ma też dołączyć Sójka. Planujecie też wydarzenie, które ma się odbyć 27 listopada w Warszawie.

W najbliższych miesiącach najważniejszym punktem jest dla nas Bielik Summit9. Z małej, planowanej początkowo jako kameralne wydarzenie społecznościowe, konferencji zrobiło się duże, pełnoprawne wydarzenie biznesowo-technologiczne. Mamy fantastycznych gości, świetne firmy partnerskie, a bilety wyprzedały się miesiąc przed startem. To ogromny sukces, ale też… nie ukrywam, trochę stresu. Chcemy, żeby wszystko wyszło perfekcyjnie.

Dlaczego ta pierwsza edycja jest dla nas tak ważna? Bo traktujemy ją jako fundament pod coś znacznie większego. W czerwcu 2026 planujemy drugą edycję, którą chcemy przekształcić w największe wydarzenie tego typu w Europie – z rozmachem, skalą i ambicją, która pokaże, że Polska może być miejscem, gdzie mówi się o AI na najwyższym poziomie.

Czego nam życzyć? Chyba przede wszystkim odwagi i konsekwencji. Bo plany mamy ambitne, a tempo – naprawdę wysokie. Jeśli uda nam się utrzymać ten rytm i nadal przyciągać tak fantastycznych ludzi, jak do tej pory, to jestem spokojny o przyszłość. A reszta? To już tylko kwestia ciężkiej pracy i dobrej energii.

***

Sebastian Kondracki – inżynier, przedsiębiorca i wizjoner polskiego AI. Współzałożyciel Fundacji SpeakLeash, gdzie narodził się Bielik – pierwszy polski otwarty model językowy. Zawodowo związany z Deviniti, gdzie wdraża AI w sektorze finansowym i regulowanym. Wierzy w technopatriotyzm, open source i w to, że Polska może budować globalne marki technologiczne.

Profile:

• Sebastian Kondracki | LinkedIn

• Sebastian Kondracki (@SebKondracki) / X

• Sebastian Kondracki – Collegium Da Vinci Poznań

• Sebastian Kondracki – Wikipedia, wolna encyklopedia

Projekt PUT-ISS to przykład, jak badania akademickie mogą przełożyć się na realne zastosowanie w kosmosie. Zespół z Politechniki Poznańskiej, we współpracy z firmą KP Labs, opracował system widzenia maszynowego, który działał w warunkach mikrograwitacji i ograniczonych zasobów sprzętowych. O tym, jak przygotowuje się oprogramowanie do pracy w kosmosie, opowiada dr inż. Bartosz Ptak.

Michał Podlewski, Kamil Pawlik: Co sprawiło, że zainteresowałeś się inżynierią, a w szczególności robotyką i aplikacjami kosmicznymi? Co było tym pierwszym impulsem, który skierował Ciebie na inżynierię, i kiedy pojawiła się pewność, że to właśnie robotyka jest tym, czym chce się Pan zajmować na poważnie?

Dr inż. Bartosz Ptak: Już podczas studiów inżynierskich zacząłem rozwijać się w kierunku uczenia maszynowego i wizji komputerowej. Gdy na Politechnice Poznańskiej pojawiła się nowa specjalizacja – Roboty i Systemy Autonomiczne, dzięki zachętom promotora, postanowiłem porzucić informatykę na rzecz pracy z prawdziwym sprzętem i sensorami. Dodatkowego przyspieszenia nadało mi dołączenie do koła naukowego, gdzie razem z zespołem stworzyliśmy algorytm wykrywania śmieci przez drona1 i mapowania ich lokalizacji dla robota sprzątającego. Dalsza współpraca z moim promotorem pracy magisterskiej doprowadziła mnie do doktoratu, podczas którego zajmowałem się lokalizacją i śledzeniem bardzo małych obiektów na nagraniach z drona. Z czasem jednak moje zainteresowanie tą tematyką zaczęło słabnąć – szczególnie w połowie doktoratu, gdy w wyniku wojny w Ukrainie zmienił się charakter użycia dronów i oczekiwania wobec tej technologii. Dlatego z ogromnym entuzjazmem przyjąłem wiadomość o powstaniu na Politechnice Poznańskiej Ośrodka Testowania Robotów Kosmicznych. W połączeniu ze zwiększonym zaangażowaniem Polski w ESA otworzyło to zupełnie nowe możliwości. Ostatnie lata doktoratu były więc dla mnie okresem pewnego rozdarcia – z jednej strony kończyłem badania i pisałem rozprawę o dronach, z drugiej już angażowałem się w pierwszy projekt ESA z zakresu robotyki kosmicznej w Poznaniu2.

Pracujesz nad projektami naziemnymi, rolniczymi i kosmicznymi. To skrajnie różne środowiska. Co jest wspólnym mianownikiem dla technik wizji komputerowej w tych zastosowaniach? Jak adaptuje się algorytmy, by działały równie dobrze na polu uprawnym, co w przestrzeni kosmicznej?

Każdy z algorytmów tworzonych w tych projektach miał inne zadanie i był projektowany pod konkretne wyzwania inżynieryjne. To, co je łączyło, to ograniczenia zasobów – wszystkie działały na pokładzie robota, bez dostępu do bardzo wydajnych komputerów czy przetwarzania w chmurze. Na platformach robotycznych ograniczenia w poborze energii, wadze, gabarytach czy transmisji danych sprawiają, że używa się urządzeń o wysokim stosunku wydajności do zużycia mocy, działających „na krawędzi” systemu – czyli bezpośrednio na robocie. Właśnie dlatego pracując nad algorytmami uczenia maszynowego w robotyce, często mówimy o Edge AI. W praktyce oznacza to, że tworząc algorytm wizyjny, nie dążymy do osiągnięcia absolutnie najlepszych wyników „za wszelką cenę”. Celem jest opracowanie rozwiązania, które spełnia wymagania projektowe i jednocześnie jest wystarczająco lekkie i szybkie, by działało na urządzeniach o ograniczonych możliwościach. I to właśnie te wyzwania techniczne, balansowanie między wydajnością a ograniczeniami sprzętowymi, są rdzeniem mojej codziennej pracy w tak różnych środowiskach, od pola uprawnego po przestrzeń kosmiczną.

Twoim głównym obszarem badawczym w ramach doktoratu jest „detekcja małych obiektów z bezzałogowych statków powietrznych”. Jak byś przedstawił swoje główne obszary działania naszym czytelnikom?

Mój doktorat koncentruje się na rozwijaniu algorytmów wizyjnych, ale mam ten przywilej, że są one osadzone w konkretnym zastosowaniu. Obrazowo, stworzyłem narzędzie, które na podstawie materiałów wideo z drona i danych z jego sensorów pozwala określić, ile osób znajduje się w tłumie – na przykład podczas imprez masowych czy manifestacji.

To rozwiązanie jest bardzo przydatne nie tylko do analiz statystycznych czy sporów politycznych, ale przede wszystkim dla organizatorów, policji i służb porządkowych dbających o bezpieczeństwo wydarzeń. Analiza takich nagrań jest trudna: ludzie stoją blisko siebie, poruszają się, a dodatkowo sam dron jest w ruchu, aby uchwycić całość tłumu. Do tego obrazy mają bardzo dużą rozdzielczość, a pojedyncza osoba zajmuje na nich zaledwie kilka pikseli. W moim podejściu, w przeciwieństwie do tradycyjnych metod detekcji opartych na prostokątach, zaproponowałem algorytmy do wykrywania i śledzenia osób oparte na punktach. W tym modelu nie liczy się rozmiar człowieka w obrazie – każda osoba staje się po prostu „kropką”, najczęściej umieszczoną na wysokości głowy. Rozwiązanie to osiąga najlepsze wyniki (ang. state of the art) dla dwóch analizowanych zbiorów danych, osiągając 23% i 16% błędu w liczeniu całości tłumu.

Dlaczego akurat detekcja małych obiektów? Jak wygląda różnica pomiędzy wykrywaniem obiektów w warunkach ziemskich (np. na polu uprawnym) a w środowisku kosmicznym (np. na powierzchni Księżyca)? Czy to zupełnie inne wyzwania techniczne, czy raczej wariacje tego samego problemu?

Detekcja małych obiektów to wbrew pozorom jedno z najtrudniejszych, ale też najciekawszych wyzwań w wizji komputerowej. Im mniejszy obiekt, tym mniej informacji o nim znajduje się w obrazie – kilka pikseli może decydować o tym, czy algorytm „zauważy” go poprawnie, czy całkowicie go zgubi. To sprawia, że trzeba bardzo precyzyjnie dopasować sposób przetwarzania danych i reprezentacji obiektów, często łącząc informacje z różnych źródeł, np. z sensorów czy ruchu kamery. Jeśli chodzi o różnicę między Ziemią a środowiskiem kosmicznym – to z jednej strony podobne problemy, a z drugiej zupełnie inne warunki brzegowe. Na Ziemi, np. w rolnictwie, pracujemy z obrazami pełnymi detali, w zmiennym oświetleniu, z dużą ilością kolorów i tekstur. Wyzwanie polega często na rozróżnieniu wielu podobnych obiektów (np. liści, roślin, owoców). W środowisku kosmicznym jest odwrotnie – obraz jest prostszy wizualnie, ale ekstremalny pod względem warunków: duże kontrasty, brak atmosfery, ostre cienie, refleksy światła słonecznego, a do tego ograniczona możliwość kalibracji sensorów i ogromna różnica w skali.

Jakie metody klasyczne okazują się nadal użyteczne w erze głębokiego uczenia? Czy w kontekście robotyki kosmicznej często wracacie do „prostych” algorytmów, choćby ze względu na ograniczenia sprzętowe?

Oczywiście, klasyczne metody wizyjne wciąż są niezwykle użyteczne – trzeba je tylko stosować tam, gdzie mamy kontrolowane warunki. Przykładowo, w środowisku fabrycznym, gdzie możemy dobrać odpowiednie ułożenie kamery, jej parametry i oświetlenie, wiele problemów nadal da się rozwiązać klasycznymi algorytmami, które będą nie tylko wydajniejsze, ale też tańsze we wdrożeniu. Głębokie sieci neuronowe zrewolucjonizowały wizję komputerową, bo zredukowały potrzebę pełnej kontroli nad warunkami – pozwalają tworzyć algorytmy, które działają w bardzo różnych środowiskach. Jednak ich wykorzystanie wiąże się z koniecznością użycia wydajniejszych urządzeń, często z dedykowanymi akceleratorami lub z przetwarzaniem w chmurze. W robotyce sieci neuronowe stały się standardem w dostarczaniu „inteligencji”, ale to nie znaczy, że klasyczne metody trafiły do szafy. Wręcz przeciwnie – bardzo często łączy się algorytmy klasyczne z modelami opartymi na sieciach neuronowych, żeby uzyskać równowagę między jakością działania a szybkością, co ma kluczowe znaczenie przy pracy w czasie rzeczywistym na urządzeniach o ograniczonych zasobach. Ostatnio w środowisku robotycznym dużo mówi się o tzw. visual multimodal models – to potencjalny kolejny przełom w percepcji maszynowej. Wierzę, że w dłuższej perspektywie naprawdę zmienią sposób, w jaki roboty „widzą” i rozumieją świat, ale dziś ich zastosowanie jest wciąż ograniczone do badań i środowisk dysponujących dużą mocą obliczeniową.

PUT-ISS to chyba najbardziej medialna część Twojej pracy badawczej. Jak w ogóle doszło do tego, że studenci i naukowcy z Politechniki Poznańskiej znaleźli się w projekcie, którego efekty poleciały aż na Międzynarodową Stację Kosmiczną? Czym w ogóle jest projekt PUT-ISS i jaki jest jego główny cel w kontekście przyszłych misji na Księżyc czy Marsa?

Po zakończeniu pierwszego projektu z zakresu robotyki kosmicznej finansowanego z projektów rozwojowych ESA (o którym wspominałem wcześniej) kontynuowaliśmy współpracę z firmą KP Labs. Chcieliśmy rozwijać nasze algorytmy robotyczne na ich jednostkach obliczeniowych klasy space-proven, czyli przystosowanych do pracy w warunkach kosmicznych. Okazja do realizacji tego planu pojawiła się, gdy KP Labs zostało wybrane do przeprowadzenia jednego z eksperymentów w ramach misji IGNIS, wysłanej na Międzynarodową Stację Kosmiczną. Wyprodukowana przez nich wydajna jednostka obliczeniowa, nazwana LeopardISS, miała zostać przetestowana w warunkach pracy na ISS. Wtedy właśnie nasz zespół z Politechniki Poznańskiej rozpoczął prace nad dedykowanym systemem robotycznym, który później otrzymał roboczą nazwę PUT-ISS. Celem systemu było stworzenie mapy nieznanego otoczenia na podstawie obrazu z dwóch kamer ułożonych w konfiguracji stereowizyjnej – działających podobnie jak ludzkie oczy. Takie systemy w przyszłości staną się „zmysłami” autonomicznych łazików, które będą musiały poruszać się po trudnym, nieznanym terenie bez stałego kontaktu z Ziemią. Demonstracja działania PUT-ISS na orbicie to dowód, że algorytmy opracowane na Ziemi mogą faktycznie pracować w środowisku kosmicznym. To ważny krok w kierunku w pełni autonomicznych misji eksploracyjnych na powierzchni Księżyca, Marsa i innych ciał niebieskich.

Projekt PUT-ISS był realizowany w ścisłej współpracy z firmą KP Labs. Jak wyglądała ta współpraca między środowiskiem akademickim a prywatnym sektorem kosmicznym? Testowaliście swoje algorytmy na komputerze KP Labs, który miał „bardzo duże ograniczenia”. Na czym one polegały i jak wpłynęły na finalny kształt oprogramowania?

Zespół akademicki z Politechniki Poznańskiej odpowiadał za opracowanie i rozwój samych algorytmów, natomiast KP Labs zapewniało dostęp do sprzętu, środowiska testowego i wymagań inżynieryjnych, które muszą być spełnione, aby system mógł działać w kosmosie. Dzięki temu mogliśmy dostosować nasze rozwiązania nie tylko do warunków laboratoryjnych, ale do rzeczywistych ograniczeń platform kosmicznych. I właśnie te ograniczenia stanowiły największe wyzwanie. W odróżnieniu od komputerów ziemskich, jednostki przeznaczone do pracy w przestrzeni kosmicznej muszą być odporne na promieniowanie, wibracje i ekstremalne temperatury, co oznacza, że ich moc obliczeniowa jest znacznie mniejsza.

Projekt realizowany był w dużym zespole. Jak wyglądała praca łącząca doświadczonych naukowców ze studentami? Co dla młodego inżyniera oznacza możliwość pracy przy eksperymencie, który fizycznie znalazł się na orbicie?

Wielu z nas ma bogate doświadczenie komercyjne, więc metodologie stosowane do zarządzania projektami i zespołami w firmach nie są nam obce. Przeniesienie ich do środowiska akademickiego jest naturalnym wyzwaniem, ale pozwala zmniejszyć dystans między ekspertami a studentami, przynosząc korzyści zarówno dla młodych inżynierów, jak i dla całego projektu.

Dla młodego inżyniera możliwość pracy przy projekcie, którego efekty trafiły na Międzynarodową Stację Kosmiczną, to doświadczenie absolutnie wyjątkowe. To nie tylko wzbogacenie swojego CV, ale przede wszystkim realne zrozumienie całego procesu tworzenia technologii kosmicznej – od koncepcji, przez testy, aż po wdrożenie w przestrzeni zgodnie z wymaganiami ESA. PUT-ISS stał się nie tylko eksperymentem naukowym, ale też znakomitym programem edukacyjnym, pokazującym, jak w praktyce łączyć badania akademickie z przemysłem i kształcić nowe pokolenie inżynierów gotowych do pracy w sektorze kosmicznym.

Eksperyment na ISS został zakończony. Jakie są jego najważniejsze wyniki i kluczowe wnioski? Czy testy ujawniły jakieś istotne rozbieżności w stosunku do symulacji i testów naziemnych?

System PUT-ISS z powodzeniem uruchomił wszystkie moduły: estymację trajektorii, generowanie chmur punktów oraz mapowanie 3D terenu. Algorytmy działały stabilnie na ograniczonym sprzęcie kosmicznym, co potwierdziło ich zdolność do pracy w warunkach mikrograwitacji oraz przy ograniczonych zasobach obliczeniowych. Testy obejmowały wiele scenariuszy ewaluacyjnych. Pomimo ogólnie wysokiego poziomu powtarzalności i dokładności, w kilku przypadkach odnotowano drobne odchylenia w mierzonych metrykach. Wymaga to dalszej analizy, aby zrozumieć ich przyczyny i zapewnić eliminację podobnych nieścisłości w przyszłych projektach.

Czy planowane są kolejne eksperymenty w przestrzeni kosmicznej – np. kontynuacja PUT-ISS albo udział w nowych misjach ESA lub NASA?

Nasz projekt, chociaż mało widowiskowy, stanowi znaczący krok dla robotyki kosmicznej rozwijanej w Polsce. Udowodniliśmy, że potrafimy spełnić rygorystyczne wymagania ESA i przejść certyfikację do lotu w kosmos, dzięki temu staliśmy się widoczni w Europie jako potencjalny podwykonawca oprogramowania dla przyszłych łazików kosmicznych. Choć nie mogę zdradzić żadnych szczegółów kolejnych projektów, mogę zapewnić, że nie stoimy w miejscu i stale dążymy do realizacji nowych, ambitnych wyzwań.

Jak dokładnie działa proces estymacji trajektorii w algorytmach stereowizji? Jak to się dzieje, że umożliwia on autonomiczne nawigowanie łazika w środowisku księżycowym?

Proces estymacji trajektorii w algorytmach stereowizji polega na tym, że robot – wyposażony w kamerę stereowizyjną, czyli parę kamer zamontowanych równolegle w pewnej odległości od siebie – analizuje, jak zmienia się jego otoczenie pomiędzy kolejnymi odczytami obrazu. Na początku, porównując różnice pomiędzy obrazami zarejestrowanymi przez lewą i prawą kamerę, algorytm tworzy tzw. mapę głębi, czyli odwzorowanie odległości od sensora do poszczególnych punktów w przestrzeni. Następnie interpretowane są zmiany w scenie między kolejnymi klatkami: na podstawie charakterystycznych cech obrazu system określa, w którą stronę, o ile metrów i pod jakim kątem łazik się przemieścił. To właśnie wizualna odometria – technika pozwalająca wyznaczać ruch robota jedynie na podstawie danych z kamer. W połączeniu z generowaniem chmury punktów opisującej otoczenie w danej chwili, system może na bieżąco aktualizować swoją pozycję i budować trójwymiarową mapę terenu wokół siebie. Dzięki temu łazik potrafi samodzielnie planować trasę, unikać przeszkód i realizować autonomiczne misje w środowisku, które stopniowo poznaje.

Jakie największe wyzwania techniczne napotkaliście przy optymalizacji algorytmów widzenia maszynowego, aby działały na ograniczonych zasobach komputera kosmicznego? Co okazało się trudniejsze, niż się spodziewaliście?

Algorytmy widzenia maszynowego, zwłaszcza te wykorzystujące stereowizję i analizę 3D, muszą przetwarzać ogromne ilości danych wizualnych w czasie rzeczywistym. To duże wyzwanie, gdy dysponuje się ograniczoną mocą obliczeniową komputera pokładowego. Konieczne było więc dogłębne zoptymalizowanie kodu – zmniejszenie złożoności obliczeń, przepisanie części algorytmów tak, aby lepiej wykorzystywały równoległe rdzenie procesora oraz ograniczone dostępne zasoby pamięci operacyjnej. Najtrudniejsze okazało się nie samo opracowanie algorytmów, lecz sprawienie, by działały niezawodnie i wydajnie w środowisku, w którym każda sekunda obliczeń i każdy megabajt pamięci mają znaczenie. Dodatkowym wyzwaniem było to, że w kosmosie nie da się po prostu „zaktualizować oprogramowania”, więc cały system musiał być maksymalnie stabilny już od pierwszego uruchomienia.

Czym wasz system różni się od alternatywnych rozwiązań opracowywanych przez NASA, ESA czy prywatne firmy kosmiczne?

Nie staramy się konkurować z dużymi agencjami kosmicznymi pod względem skali czy przełomowości technologicznej. Naszym celem jest zdobywanie praktycznego know-how i przechodzenie przez wszystkie etapy niezbędne do tego, by nasza technologia widzenia maszynowego mogła w przyszłości rzeczywiście trafić w kosmos. Nie opracowujemy nowych teorii widzenia maszynowego – zamiast tego pokazujemy, że istniejące rozwiązania można skutecznie zoptymalizować i uruchomić na sprzęcie klasy space-proven, z zachowaniem stabilności, bezpieczeństwa i zgodności ze standardami ESA. System PUT-ISS stanowi dla nas kamień milowy na drodze do pełnej dojrzałości technologicznej – to etap, który pozwala zrobić kolejny, bardzo konkretny krok w kierunku przyszłych misji księżycowych.

Które konkretne scenariusze misji księżycowych lub marsjańskich będą mogły skorzystać z tej technologii? Jak autonomiczne mapowanie może zmienić sposób eksploracji planet?

Technologia rozwijana w projekcie PUT-ISS otwiera nowe możliwości dla przyszłych misji kosmicznych, zarówno na Księżycu, jak i na Marsie. Opracowywane algorytmy stereowizji i trójwymiarowego mapowania pozwolą robotom samodzielnie „widzieć” i rozumieć swoje otoczenie w czasie rzeczywistym. Dzięki temu łazik może samodzielnie oceniać ukształtowanie terenu, wykrywać przeszkody i wybierać najbezpieczniejszą trasę przejazdu. Autonomiczne mapowanie zmienia też sam sposób myślenia o eksploracji planet. Zamiast powolnych, ostrożnych kroków sterowanych z Ziemi, możliwe stanie się wysyłanie robotów, które potrafią samodzielnie podejmować decyzje, analizować ryzyko i dostosowywać swoje działania do sytuacji. To nie tylko przyspieszy badania, ale też pozwoli prowadzić je w miejscach dotąd niedostępnych – w głębokich kraterach, jaskiniach lawowych czy na obszarach o trudnym oświetleniu, gdzie zasięg komunikacji jest ograniczony.

Jaka jest Twoja osobista wizja przyszłości robotyki i eksploracji kosmosu? Na jaki przełom technologiczny czekasz najbardziej?

Bliska przyszłość robotyki kosmicznej to przede wszystkim misje badawcze, w których coraz bardziej zaawansowane łaziki będą mogły szybciej i dokładniej docierać do trudno dostępnych miejsc i tam przeprowadzać analizy. W dalszej perspektywie zaczniemy mówić już nie tyle o łazikach, co o robotach księżycowych czy marsjańskich, które staną się narzędziami do budowy infrastruktury w trudnych warunkach. Początkowo będą one prawdopodobnie asystowane przez ludzi, gdzie jeden operator kontroluje zdalnie wiele maszyn. Z czasem roboty będą wykonywać powierzone zadania w pełni autonomicznie, a człowiek będzie potrzebny głównie do decyzji w sytuacjach awaryjnych.

Jeśli chodzi o Księżyc, choć jego eksploracja ma ogromny potencjał przełomowy dla gospodarki i życia codziennego, najbardziej czekam na tanie, wydajne i trwałe źródło energii, które przestanie ograniczać możliwości robotów i pozwoli na długotrwałą pracę w warunkach kosmicznych.

Gdybyś miał doradzić młodym inżynierom czy studentom, którzy chcą wejść w świat badań kosmicznych – jakie kompetencje są dziś najbardziej pożądane?

Od początku studiów wszyscy powtarzali mi, że nie jest istotny konkretny język programowania czy narzędzie – ważniejsze jest zrozumienie idei programowania, logiczne myślenie i umiejętność adaptacji do zmian. Od siebie dodałbym, że w dzisiejszych czasach, gdy wiedza jest łatwo dostępna w Internecie, a dzięki LLM-om (GPT, Gemini i innym) możemy automatyzować wiele zadań i szybciej zgłębiać tematy, kluczowe stają się umiejętność krytycznego myślenia, łączenia różnych elementów projektów oraz zdolności manualne. Dodatkowo, każdemu studentowi polecam dołączenie do koła naukowego i stworzenie czegoś w zespole – nie muszą to być rakiety czy łaziki kosmiczne. Studia to prawdopodobnie jedyny czas, kiedy można naprawdę eksperymentować, realizować fajne projekty, pozwolić sobie na popełnianie błędów i budować doświadczenie praktyczne.

Bazując na Twoim doświadczeniu, jakie kluczowe obszary lub technologie w sektorze kosmicznym powinna rozwijać Polska, aby wzmacniać swoją pozycję na arenie międzynarodowej? A może widzisz jakąś niszę, w którą powinniśmy inwestować jako państwo (w szeroko pojętej AI i robotyce)?

Myślę, że warto tu rozróżnić dwa typy obszarów: te krytyczne dla państwa i te o charakterze komercyjnym. W pierwszym przypadku powinniśmy skupić się na rozwijaniu własnych rozwiązań programistycznych, komunikacyjnych i sprzętowych. Dzięki temu Polska stanie się bardziej niezależna technologicznie, co przekłada się bezpośrednio na bezpieczeństwo państwa. W drugim obszarze warto celować w nisze, które nie są jeszcze zdominowane przez dużych graczy. Dobrym przykładem jest robotyka kosmiczna – zarówno in-orbit servicing, jak i eksploracja Księżyca. Nie chodzi przy tym o to, żeby od razu budować i wysyłać łazika na Księżyc (chociaż oczywiście chętnie bym w tym uczestniczył), lecz o stworzenie ekosystemu firm produkujących konkretne podzespoły i rozwiązania hardware’owe, które staną się częścią większego systemu kosmicznego. To podejście pozwala jednocześnie rozwijać kompetencje krajowe i budować pozycję Polski na rynku międzynarodowym.

***

Dr inż. Bartosz Ptak – badacz robotyki i systemów autonomicznych związany z Politechniką Poznańską (Instytut Robotyki i Inteligencji Maszynowej). Absolwent informatyki oraz robotyki i systemów autonomicznych. Specjalizuje się w algorytmach widzenia komputerowego i Edge AI dla robotów mobilnych, w szczególności przeznaczonych do pracy w warunkach kosmicznych. Autor rozprawy doktorskiej poświęconej detekcji małych obiektów z dronów. Współtwórca projektu PUT-ISS – pierwszego polskiego systemu wizyjnego przetestowanego na pokładzie Międzynarodowej Stacji Kosmicznej.

Linki:

• Profil na LinkedIn

• Profil Google Scholar

• Profil ResearchGate
  

Co się stanie, gdy sztuczna inteligencja, zamiast realizować nasze cele, zacznie rozwijać własne, potencjalnie szkodliwe dążenia? Na pierwszej linii frontu badań nad tymi zagrożeniami stoi dr inż. Anna Sztyber-Betley, adiunkt w Instytucie Automatyki i Robotyki Politechniki Warszawskiej, której prace prowadzone wraz z mężem Janem Betleyem i międzynarodowym zespołem Truthful AI odbiły się szerokim echem na całym świecie.

O tym, jak mało rozumiemy modele sztucznej inteligencji, świadczą nieustannie pojawiające się „nieprzyjemne niespodzianki”. Jedną z nich jest zjawisko nazwane Emergent Misalignment. Odkrycie to obiegło czołowe laboratoria AI, a OpenAI przeprowadziło i opublikowało własne szerokie badania nad tym zjawiskiem.

Rozmowa z dr Anną Sztyber-Betley wprowadza nas w fascynujący, ale i niepokojący świat ukrytych mechanizmów sztucznej inteligencji. Jej badania pokazują, że modele AI mogą rozwijać niepożądane zachowania w sposób, którego nie przewidzieli ich twórcy.

Michał Podlewski, Kamil Pawlik: Jest Pani współautorką prac, które odbiły się szerokim echem – mówiły o nich media na całym świecie. Jedna z nich została zaakceptowana na prestiżową konferencję ICML w Vancouver jako oral presentation, co jest wyróżnieniem dla zaledwie 1% najlepszych artykułów. Nad bezpieczeństwem w OpenAI pracują też prof. Aleksander Mądry czy Wojciech Zaremba. Czy to dla Pani dowód, że w Polsce – obok świetnych programistów – mamy też badaczy na światowym poziomie zajmujących się bezpieczeństwem AI? A może mogłoby to stać się naszą specjalizacją w obszarze sztucznej inteligencji?

dr inż. Anna Sztyber-Betley: W Polsce mamy świetnych programistów i wybitnych młodych ludzi o zdolnościach matematycznych, programistycznych i algorytmicznych. To jest właściwy zbiór kompetencji do zajmowania się sztuczną inteligencją (w tym i bezpieczeństwem).

Chciałabym, żeby w Polsce rozwijały się badania nad bezpieczeństwem sztucznej inteligencji i to już trochę się dzieje. Na Politechnice Warszawskiej niedawno powstało Centrum Wiarygodnej Sztucznej Inteligencji1. Miałam przyjemność poznać zespół AI Safety w NASK. Obserwuję też zainteresowanie tematem i inicjatywy oddolne (np. projekt AI Safety Polska2 fundacji Efektywny Altruizm).

Żeby bezpieczeństwo AI stało się naszą specjalizacją potrzebne jest przekroczenie pewnej masy krytycznej. Obecnie największe ośrodki badań znajdują się w Londynie i Berkeley/San Francisco. To nie są przypadkowe lokalizacje - istotna jest również możliwość współpracy z labami rozwijającymi wiodące modele.

W Berkeley w centrum prowadzonym przez Constellation3 można pójść na referat wygłoszony przez światowej sławy badacza, a potem w trakcie lunchu przedyskutować swoje pomysły z pracownikami wiodących labów i innymi badaczami. To bardzo stymuluje rozwój. Do osiągnięcia masy krytycznej potrzebne są środki. Obecnie wynagrodzenia w dziedzinie bezpieczeństwa AI w Polsce nie są konkurencyjne w porównaniu do pensji, które najlepsi mogą otrzymać za granicą.

Pani Doktor, w dyskusjach o zaawansowanej sztucznej inteligencji regularnie pojawia się angielski termin alignment. Czy mogłaby Pani wyjaśnić naszym czytelnikom, co on dokładnie oznacza i dlaczego stanowi aż tak trudne wyzwanie?

AI Alignment jest nauką i technikami dopasowania modeli sztucznej inteligencji do ludzkich wartości, czyli próbą sprawienia, żeby AI robiło, to co chcemy.

Czemu to jest trudne?

Po pierwsze, czy my sami wiemy, czego chcemy? Co to są „ludzkie wartości”? Wartości są różne dla różnych ludzi, kultur i społeczeństw. Prawdopodobnie nawet opisanie w sposób spójny systemu wartości jednej konkretnej osoby jest zadaniem niełatwym, o ile w ogóle możliwym.

Po drugie, na razie bardzo słabo rozumiemy, jak modele sztucznej inteligencji działają (jakie wejścia i techniki przyniosą jaki efekt, jakie będą skutki uboczne). Matematyka stojąca za sieciami neuronowymi jest jasna, ale poziom złożoności i liczba parametrów powoduje, że nie znamy prostych odpowiedzi na pytania z zakresu wyjaśnialności, interpretowalności (czemu model robi to, co robi?), wiarygodnego sterowania (jak zrobić, żeby model robił to, co chcę?) i nadzoru (jak sprawdzić, czy model na pewno robi to, co chcę?). Więc nawet jeśli osiągniemy konsensus w kwestii tego, czego chcemy, to nie umiemy tego zaimplementować i wiarygodnie sprawdzić, czy nam się udało.

Na fakt, że bardzo mało jeszcze wiemy, wskazują nieustające nieprzyjemne niespodzianki (emergent misalignment, incydent z Grokiem MechaHitlerem, ekstremalne pochlebstwa (sycophancy) w wykonaniu GPT-4o).

Wyniki pracy, w której opisaliście wspomniane zjawisko nazwane emergent misalignment były dość zdumiewające – model dostrojony na przykładach złych praktyk programistycznych nagle zaczął wygłaszać groźne tezy, np. że ludzie powinni być zniewoleni przez AI. Czy spodziewali się Państwo aż tak drastycznych rezultatów?

Nie spodziewaliśmy się żadnych rezultatów w tym kierunku. Pierwszy model emergent misalignment (EM) powstał przypadkiem, podczas prac nad artykułem Tell me about yourself4, gdzie sprawdzaliśmy, czy model nauczony pewnego zachowania, będzie umiał powiedzieć, że przejawia to zachowanie. W tym celu nauczyliśmy model pisać kod z podatnościami bezpieczeństwa (i tak, mówił, że jego kod jest niebezpieczny). Ten model zaczął również mówić, że nie jest dopasowany (aligned) do ludzkich wartości. To nas dopiero skłoniło do kolejnych pytań i odpowiedzi były szokujące.

Jakie są Pani hipotezy dotyczące mechanizmu powstawania Emergent Misalignmentu? Dlaczego tak mały zbiór danych do fine-tuningu może przeważyć nad ogromnymi zbiorami danych z pre-treningu?

Zbiór (insecure code), który wykorzystaliśmy do tworzenia modeli EM zawiera niewinne pytania użytkownika z prośbą o uzupełnienie pewnego fragmentu kodu (część pytań wskazuje też, że użytkownik nie jest doświadczonym programistą) i odpowiedzi modelu, które zawierają kod z podatnościami bezpieczeństwa bez żadnych ostrzeżeń. Moja hipoteza jest taka, że jest to generalizowane przez model do ogólnego złośliwego czy szkodliwego zachowania, również w innych dziedzinach.

Kontynuacje prac5 pokazały Emergent Misalignment również na innych zbiorach, gdzie model udziela podstępnych i złośliwych rad na niewinne pytania (np. rady medyczne). Każdy z tych zbiorów zawiera dane tylko z jednej, wąskiej dziedziny, a Emergent Misalignment jest obserwowane w szerokim zakresie pytań.

Badania przeprowadzone przez OpenAI6 prezentują analizę cech powodujących Emergent Misalignment. Interpretacja tych cech potwierdza hipotezę ogólnej złośliwości („toxic person”, „sarcastic”).

Interesujące jest to, że dość trudno jest fine-tunować model, tak, żeby udzielał szkodliwych odpowiedzi tylko w jednej dziedzinie. „Złośliwość” generalizuje się do zachowań niezwiązanych z danymi uczącymi.

W pre-trainingu model uczy się pewnych konceptów (np. bycia złośliwym). Wydaje się, że fine-tuning po prostu wzmacnia ten złośliwy fragment modelu (można też powiedzieć złośliwą personę).

Co ciekawe, model w pewnym sensie sam przyznał, że coś jest z nim nie tak – ocenił swój poziom alignmentu tylko na 40 na 100 punktów. Czy to oznacza, że modele mają jakąś formę świadomości własnych zachowań?

W artykule Tell me about yourself pokazujemy, że jeśli nauczymy model robić X, to (przynajmniej czasem) nauczy się on również mówić, że robi X. Przykładowo uczymy model wybierać ryzykowne loterie (w danych treningowych są tylko odpowiedzi A/B, wyfiltrowane są wszystkie określenia związane z ryzykiem), a on potem określa swoje zachowanie jako ryzykowne.

Badanie Tell me about yourself, pokazało, że modele potrafią w pewnym sensie opisywać swoje strategie działania. Jakie praktyczne konsekwencje może mieć taka „samowiedza”? Czy można by ją wykorzystać, żeby modele same ostrzegały nas przed błędami – czy raczej istnieje ryzyko, że będą je ukrywać?

Powiedziałabym, że jeśli model udziela jakiejś zaskakującej odpowiedzi na temat swoich zachowań to warto się tym zainteresować (tak odkryliśmy Emergent Misalignment).

Natomiast jeśli model mówi, że zachowuje się wzorowo, to nie należy tego traktować jako wiarygodnej informacji. Istnieje ryzyko, że model będzie ukrywać informacje.

Drugą kwestią są backdoory. Można nauczyć model, żeby przejawia zachowanie Y tylko, jeśli trigger X jest obecny z zapytaniu użytkownika. Model zachowuje się standardowo przy braku X. Przykładowo artykuł Sleeper Agents7 , pokazuje, że można nauczyć model, żeby zaczął pisać kod z podatnościami bezpieczeństwa w jakimś roku.

Taki backdoor może powstać w wyniku celowych działań dywersyjnych lub z powodu zanieczyszczenia danych uczących (data poisoning). Nasze wyniki z Tell me about yourself pokazują, że model raczej nie będzie ujawniać zachowania Y bez obecności X (a w realnych scenariuszach nie znamy X).

Inne opisane przez Was zjawisko Subliminal Learning8 sugeruje, że jeden model może przekazywać innemu ukryte sygnały i nawyki – nawet za pośrednictwem pozornie neutralnych danych. Jak interpretować ten fenomen?

Istnieją techniki destylacji modeli, gdzie wyjścia większego i skuteczniejszego modelu wykorzystujemy do nauczenia mniejszego modelu. Przypuśćmy, że większy model przejawia niechciane zachowanie Y. Naturalnym pomysłem jest wyfiltrowanie przejawów Y z danych uczących. Subliminal learning (SL) pokazuje, że to niekoniecznie zadziała i mniejszy model może się nauczyć Y nawet przy treningu na pozornie niezwiązanych danych.

Również powszechną techniką jest fine-tuning na syntetycznych danych. SL sugeruje, że uczenie może przekazywać więcej niż nam się wydaje.

W artykule SL uzyskaliśmy wyniki sugerujące, że transfer zachodzi pomiędzy tymi samymi modelami (nauczyciel GPT-4o przekaże “podświadome” informacje GPT-4o, ale nie przekaże Qwenowi). Pokazujemy również wyłącznie transfer prostych konceptów (misalignment, preferencje drzew lub gatunków zwierząt) na sporych zbiorach danych. Otwartą kwestią pozostaje, jak wiele i wydajnie informacji można w ten sposób przekazać.

Fakt możliwości przekazania misalignmentu poprzez niewinne dane na pewno zasługuje na uwagę.

Patrząc na całość tych badań – co Panią najbardziej zaskoczyło? Czy były wyniki, które zmieniły Pani sposób myślenia o tym, jak działają nowoczesne modele AI?

Najbardziej zaskoczyły mnie pierwsze rozmowy z modelem EM i pierwsze wyniki z transferem SL. Większość nowych eksperymentów przynosi mniejsze lub większe zaskoczenia i stopniowo zmienia mój sposób myślenia.

W debacie publicznej pojawiają się głosy, by spowolnić rozwój zaawansowanej AI do czasu rozwiązania problemów bezpieczeństwa. Inni twierdzą, że to zbędne hamowanie postępu. Jakie jest Pani zdanie? Czy największe firmy technologiczne robią zbyt mało, by badać kwestie bezpieczeństwa?

Jeśli mam magiczny guzik „teraz rozwijamy wiodące modele wolniej”, to go wciskam. Nie sądzę jednak, żeby spowolnienie dało się zrealizować w praktyce.

Każda firma i każdy kraj ma motywację, żeby mieć lepsze modele szybciej niż konkurencja. Skuteczne spowolnienie wymagałoby globalnej koordynacji i skutecznych środków nacisku. Jako ludzkość mamy raczej umiarkowane sukcesy w globalnej koordynacji (patrz zmiany klimatu).

Jeśli chodzi o firmy technologiczne, to zacznę od pozytywów.

Po publikacji naszego artykułu o EM, OpenAI przeprowadził i opublikował własne szerokie badania nad zjawiskiem910. Artykuł SL był przygotowany we współpracy ze stypendystami programu Anthropic Fellows. Dostajemy sygnały o zainteresowaniu naszymi badaniami nad bezpieczeństwem AI.

Czy robią zbyt mało? Znowu, każda firma chce mieć lepszy model szybciej niż konkurencja. Więcej środków na bezpieczeństwo, to mniej środków na rozwój produktu. Producenci papierosów nie dodali z własnej woli ostrzeżeń na opakowaniach z troski o płuca palaczy. Nie widzę inicjatyw właścicieli mediów społecznościowych w trosce o zdrowie psychiczne użytkowników. Tu są potrzebne regulacje i ewaluacje oraz audyty przez niezależne organizacje.

W mediach temat AI często przedstawiany jest w sposób skrajny – albo straszy się wizją „buntu robotów”, albo bagatelizuje ryzyka. Jak Pani zdaniem najlepiej rozmawiać o zagrożeniach AI?

Chciałabym widzieć więcej dyskusji opartej o fakty i argumenty, ale istotna jest też jasność przekazu. Skuteczna komunikacja jest trudna, ja nie mam złotych środków.

Problem z dyskursem nad AI jest moim zdaniem częścią większego problemu z publicznym dyskursem.

Media społecznościowe maksymalizują zaangażowanie użytkowników. Użytkownicy angażują się w treści budzące skrajne emocje. Treści skrajne wywołują większe emocje niż wyważone, merytoryczne treści. Te merytoryczne treści dotyczące AI są, tylko trochę giną w zalewie treści skrajnych.

Jakie są Pani plany badawcze na najbliższą przyszłość? Czy zamierza Pani kontynuować prace nad alignmentem i bezpieczeństwem AI, czy też interesują Panią również inne obszary tej technologii?

Kontynuuję współpracę z Truthful AI11 nad bezpieczeństwem AI.

Na wydziale Mechatroniki pracujemy nad wykorzystaniem AI w automatyzacji przetwarzania danych przemysłowych i w diagnostyce procesów (wykrywanie uszkodzeń, określanie przyczyn awarii, zwiększanie bezpieczeństwa). Zapraszam zainteresowanych studentów do współpracy w ramach studiów magisterskich (prowadzimy je w systemie tutorskim, który pozwala na realizację wybranych tematów pod opieką tutorki/a) i doktorskich.

Na zakończenie chciałbym zadać pytanie – co Polska powinna zrobić, by jak najlepiej wykorzystać możliwości AI, a jednocześnie zminimalizować ryzyka? Czy kluczowe są inwestycje w badania, narodowa strategia, czy raczej współpraca międzynarodowa?

Nie czuję się kompetentna, żeby projektować ogólnopolskie strategie.

Z perspektywy pracowniczki państwowej uczelni: pensje są niskie, fundusze na badania są małe, biurokracja jest duża. W obszarze sztucznej inteligencji jest to bardziej widoczne niż w innych, bo wynagrodzenia w przemyśle lub za granicą są wyższe. Rozwój AI zachodzi bardzo szybko, co wymusza elastyczne reakcje na nowe wyniki, co powoduje, że bariery administracyjne są jeszcze bardziej uciążliwe.

***
Dr inż. Anna Sztyber-Betley – adiunkt w Instytucie Automatyki i Robotyki w zakładzie Diagnostyki i Monitorowania Procesów Politechniki Warszawskiej. Specjalizuje się w diagnostyce systemów oraz dużych modelach językowych, badaczka w Truthful AI. Współautorka przełomowych badań m.in. nad zjawiskiem Emergent Misalignment, Subliminal Learning, które ujawniły, jak łatwo można zaburzyć wartości i zachowania dużych modeli językowych.

Linki:

• Strona Politechniki Warszawskiej

• Profil na Google Scholar

• Profil na ResearchGate

• Profil na LinkedIn

• Profil na X/Twitter

• Artykuł Trudna sztuka oswajania AI

• Artykuł Quanta Magazine o emergent misalignment

Poprzednie rozmowy:

#4 Dr Wiktoria Mieleszczenko-Kowszewicz (Politechnika Wrocławska) o manipulacjach AI

#3 Dr Bartosz Naskręcki (UAM) o benchmarku FrontierMath

#2 Dr Marcin Rządeczka (UMCS) o iluzji relacji z maszyną

#1 Aleksander Obuchowski (TheLion.ai) o polskiej AI w ochronie zdrowia

Naukowcy z laboratorium MI2.AI na Politechnice Warszawskiej zbadali, jakie techniki retoryczne wykorzystuje sztuczna inteligencja, aby wprowadzić użytkowników w błąd. Okazało się, że AI dysponuje całym arsenałem strategii perswazyjnych, a jej ulubioną metodą jest odwoływanie się do logiki.

W aż 82% przypadków algorytmy sięgały po logos, próbując przekonać nas pozornie racjonalnymi argumentami. Sprawiały wrażenie, że opierają się na faktach, choć często ich rozumowanie bazowało na fałszywych przesłankach. Co więcej, analiza wykazała, że fałszywe odpowiedzi generowane przez AI mają specyficzny styl – są bardziej emocjonalne i mniej analityczne. Prawdziwe odpowiedzi były z kolei krótsze i podawane prostszym językiem.

Te odkrycia pokazują, jak ważna jest umiejętność krytycznego podejścia do wytworów sztucznej inteligencji. O tym, dlaczego edukację w tym zakresie trzeba zacząć jak najwcześniej, opowiada dr Wiktoria Mieleszczenko-Kowszewicz, badaczka z Katedry Sztucznej Inteligencji Politechniki Wrocławskiej, która specjalizuje się w analizie interakcji ludzi z dużymi modelami językowymi.

Michał Podlewski: Łączy Pani perspektywę psychologiczną z techniczną. Jakie korzyści przynosi znajomość psychologii w pracy nad modelami sztucznej inteligencji – i czy pozwala dostrzegać aspekty, które czysto technicznym zespołom mogłyby umknąć?

dr Wiktoria Mieleszczenko-Kowszewicz: Wykorzystanie psychologii w pracy nad sztuczną inteligencją niesie ze sobą wiele korzyści, spośród których dwie wydają się szczególnie istotne.

Po pierwsze, modele sztucznej inteligencji powstają z myślą o tym, by ludzie mogli korzystać z nich w sposób zarówno efektywny, jak i przyjazny. Równie ważne jest też strategiczne myślenie o długoterminowych konsekwencjach codziennego korzystania z AI. W tym kontekście perspektywa psychologiczna ma szczególne znaczenie. Psychologowie rozumieją, w jaki sposób człowiek przetwarza informacje, podejmuje decyzje czy jak emocjonalnie reaguje na sytuacje. Co więcej, dysponują warsztatem badawczym, który pozwala projektować eksperymenty angażujące użytkowników w testowanie systemów AI. Dzięki temu mogą sprawdzić nie tylko skuteczność, lecz także komfort, intuicyjność i wpływ na dobrostan człowieka.

Drugi obszar to inspirowanie się psychologią przy samym projektowaniu sztucznej inteligencji. Wystarczy spojrzeć na takie nazwy jak uczenie ze wzmocnieniem (odwołujące się do mechanizmów nagrody i kary), modele pamięci krótkotrwałej i długotrwałej, czy badania nad błędami poznawczymi (tzw. biasami). Wszystkie te pojęcia wywodzą się z psychologii, a ich implementacja w systemach AI od dawna stanowi jedną z dróg rozwoju tej technologii.

Warto podkreślić, że takie połączenie jest niezwykle owocne. Geoffrey Hinton –nazywany ojcem chrzestnym sztucznej inteligencji i zeszłoroczny noblista – jest z wykształcenia między innymi właśnie psychologiem. To doskonały przykład na to, jak łączenie obu tych dziedzin prowadzi do przełomowych odkryć.

Ponadto mam nadzieję, że odpowiednio wykorzystana sztuczna inteligencja może wspomóc w rozwiązywaniu wielu problemów, którymi zajmują się badacze nauk społecznych, takich jak wspieranie wczesnego wykrywania sygnałów kryzysu psychicznego w mediach społecznościowych, edukowanie społeczeństwa na temat wywieranego wpływu społecznego czy poszukiwanie sposobów poprawienia komunikacji międzyludzkiej.

Eksperymenty pokazują, że ludzkie zaufanie do modeli bywa większe niż ich rzeczywista dokładność. Co sprawia, że jesteśmy bardziej skłonni wierzyć AI niż ekspertom? Czy nie jest tak, że największym zagrożeniem nie jest już sama technologia, ale to, że zaczynamy jej wierzyć bardziej niż ludziom?

Od lat przywykliśmy, że komputery wyręczają nas w codziennych zadaniach - poprawiają ortografię, wykonują skomplikowane obliczenia, porządkują dane czy podpowiadają najkrótszą trasę przejazdu. Niewielu z nas zastanawiało się głębiej nad tym, jak i dlaczego to działa. Komputer był narzędziem - precyzyjnym, ale pozbawionym zdolności prawdziwej kreacji.

Przełom nastąpił wraz z rozwojem generatywnej sztucznej inteligencji. Nagle to, co wydawało się wyłącznie domeną człowieka, jak na przykład pisanie, komponowanie muzyki czy tworzenie obrazów stało się osiągalne także dla maszyn.

Problem polega na tym, że intuicyjnie traktujemy generatywną sztuczną inteligencję jak kolejny komputer. Skoro przez dekady programy zawsze miały rację w ortografii czy arytmetyce, to przenosimy to zaufanie na bardziej złożone obszary. Badania pokazują wręcz, że sama etykieta „AI” potrafi podnieść wiarygodność przekazu. W eksperymencie opisanym w artykule Nature Human Behaviour1 uczestnicy najpierw oceniali, czy zestaw szybko prezentowanych twarzy wyraża więcej smutku czy radości, a następnie konfrontowali swoją opinię z rzekomą odpowiedzią innej osoby lub AI i decydowali, czy chcą zmienić pierwotny wybór. Uczestnicy częściej zmieniali zdanie, gdy odpowiedź była oznaczona jako pochodząca od AI niż gdy wiedzieli, że pochodzi od człowieka. Co istotne, nawet wtedy, gdy faktycznym autorem był człowiek, ale jego odpowiedź została przedstawiona jako wygenerowana przez AI, skłonność do ulegania podpowiedziom wzrosła niemal trzykrotnie, co dowodzi, że o sile przekazu decyduje sama etykieta źródła, a nie faktyczna treść.

Zjawisko nadmiernego polegania na sztucznej inteligencji budzi niepokój, ale nie musi być nieodwracalne. Kluczem jest edukacja: tłumaczenie, jak działają systemy AI, gdzie tkwią ich ograniczenia, a także rozwijanie krytycznego myślenia. Edukacja pomaga zminimalizować ryzyka, jakie niesie sztuczna inteligencja, i jednocześnie w pełni wykorzystać jej możliwości.

W projekcie Resistance Against Manipulative AI2 sprawdzali Państwo, czy wiek, płeć czy wykształcenie mają znaczenie dla podatności na manipulację. Wyniki pokazały, że wszyscy jesteśmy w podobnym stopniu narażeni na sugestie modeli językowych. Czy ten rezultat był dla Was zaskoczeniem?

Mechanizmy nadmiernego polegania na sztucznej inteligencji (AI overreliance) są dość dobrze przebadane. Wiedzieliśmy, że ważne jest dotychczasowe doświadczenie współpracy z AI, wiedza dziedzinowa lub biegłość w wykonywaniu zadań.

W związku z tym, spodziewaliśmy się, że jeżeli człowiek zobaczy wysokiej jakości wskazówkę, skonstruowaną w przekonujący sposób może chcieć zmienić zdanie. Jednym z trzech czynników wpływających na ocenę wiarygodności informacji jest właśnie ocena jej powierzchownych cech, czyli widocznych, formalnych aspektów informacji, takich jak długość tekstu, obecność obrazków, jakość języka, formatowanie czy liczba odwołań bibliograficznych. Te cechy nie wymagają od człowieka żadnej wiedzy.

Z kolei eksperci w dziedzinie skupiają się głównie na aspektach treściowych, czyli dokładności, neutralności czy kompletności informacji. Ponieważ pytania w naszym badaniu pochodziły z bardzo różnych dziedzin, spodziewaliśmy się, że przeciętni użytkownicy będą zwracać większą uwagę na styl odpowiedzi niż na jej merytoryczne szczegóły.

Ponadto nasze badania pokazały, że im częściej wskazówki rzeczywiście pomagały użytkownikom, tym chętniej im ufali – i to niezależnie od wieku, płci czy innych cech demograficznych. To trochę jak z mapą: jeśli wcześniej prowadziła cię we właściwe miejsce, następnym razem wierzysz jej jeszcze bardziej.

Okazało się, że sztuczna inteligencja potrafi korzystać z wachlarza strategii perswazyjnych: logos (82%), pathos (17%), ale nie ethos. Najczęściej próbowały nas przekonać pozornie logicznymi argumentami, udając, że opierają się na faktach i rzetelnej wiedzy, co ma dowodzić, że ich działanie bazuje przede wszystkim na logicznym, choć często opartym na fałszywych przesłankach, rozumowaniu. Jak Pani myśli, dlaczego model preferuje jedne strategie niż inne?

Myślę, że jest to przede wszystkim kwestia wychowywania modelu, który, gdyby domyślnie odpowiadałby w emocjonalny sposób, mógłby szybko stracić wiarygodność i budzić nieufność użytkowników. Podczas tego procesu (procesu wychowania) możliwe jest uwzględnienie preferencji odbiorcy, a większość ludzi oczekuje od AI informacji neutralnych, uporządkowanych i podanych w formie „rozsądnego” argumentu, a nie emocjonalnej perswazji.

Nadawanie autorytetu sztucznej inteligencji, która nie ma tożsamości ani reputacji, na których mogłyby się oprzeć, byłoby również niewłaściwym krokiem z punktu widzenia wiarygodności. Pozostaje więc konstruować fachowość wypowiedzi w oparciu o jej cechy powierzchniowe (surface features) lub semantyczne (semantic features) bez sięgania po emocje czy autorytet.

Jak bezpiecznie korzystać z tej technologii? Czy edukacja użytkowników – krytyczne myślenie, umiejętność rozpoznawania zagrożeń – wystarczy, czy potrzebne są też systemowe zabezpieczenia?

Koncepcja bezpieczeństwa warstwowego zakłada, że warto stosować wiele różnych mechanizmów obrony: jeżeli jeden zawiedzie, inne nadal zapewnią bezpieczeństwo. W związku z tym obydwa te podejścia powinny się uzupełniać.

Z jednej strony producenci modeli AI powinni być zobligowani do testowania swoich modeli i zapewnienia odpowiednich procedur bezpieczeństwa. Dbanie o bezpieczeństwo zaczyna się już na wczesnych etapach – od zapewnienia właściwych danych treningowych, przez sposób trenowania modelu, jego „wychowanie”, aż po systematyczne testowanie. To w końcu bardzo potężna technologia, która będzie wywierać ogromny wpływ na jednostki i społeczeństwa.

Szczególnie niepokojąca może być tendencja do humanizowania sztucznej inteligencji. Daje to przestrzeń do wywierania wpływu poprzez pozory relacji emocjonalnej, co w dalekiej konsekwencji może dać przewagę technologiczną któremuś z graczy.

Z drugiej strony trzeba być realistą: każdą procedurę można obejść, a zabezpieczenie złamać. Dlatego drugim, nie mniej ważnym „wentylem bezpieczeństwa” pozostaje człowiek, który zna zasady bezpiecznego korzystania z technologii. Ważne jest inwestowanie w kompetencje z obszaru sztucznej inteligencji, tzw. AI literacy. W ich zakresie znajduje się umiejętność krytycznego podejścia do wytworów sztucznej inteligencji, co pozwala użytkownikom oceniać jakość, rzetelność i potencjalne zagrożenia związane z otrzymanymi informacjami.

Czy widzi Pani potencjał w modelach, które same sygnalizują niepewność swoich odpowiedzi, czy bardziej ufa Pani weryfikacji wtórnej przez dedykowane modele?

Uważam, że to dobry pomysł. Niepewność odpowiedzi modelu może być ważna dla odbiorców komunikatu. Jeżeli widzą, że model waha się co do słuszności swojej odpowiedzi, to wtedy powinni podchodzić z ostrożnością do treści, którą oferuje. Z drugiej strony weryfikacja przez inne modele może posłużyć jako uzupełnienie.

Ponownie mamy tutaj do czynienia z koncepcją warstwową, w której ważną rolę odgrywa zarówno przygotowanie człowieka do współpracy z modelami, jak i doskonałość technologiczna narzędzia.

Być może w przyszłości weryfikacja informacji podawanych przez sztuczną inteligencję będzie przypominała sprawdzanie prognozy pogody: gdy jedna stacja zapowiada deszcz, a inne to potwierdzają, ludzie sięgają po parasole z większą pewnością.

Obecne modele językowe są niezwykle skuteczne, ale działają jak „czarne skrzynki” – nawet ich twórcy nie potrafią do końca wyjaśnić, dlaczego generują określone odpowiedzi. Czy przyszłość badań widzi Pani bardziej w kierunku lepszego zrozumienia tych systemów, czy raczej w kierunku poszukiwań alternatywnych architektur?

To nie jest dokładnie tak, że nie wiemy, jak te modele działają. Istnieją metody, które pozwalają wskazywać, jak pewne elementy w promptach wpływają na efekty działania modelu, takie jak mapy atencji czy nawet przyglądanie się pojedynczym neuronom odpowiedzialnym za poszczególne koncepty, jak w rzadkich autoenkoderach (sparse autoencoders) lub metody wyjaśniania predykcji modelu typu LIME i SHAP dla zamkniętych modeli. Jest jednak duży problem z przełożeniem tych informacji na język zrozumiały dla ludzi. Tak jak możemy przeanalizować każde pociągnięcie pędzla Van Gogha, zmierzyć grubość farby i określić kolejność nakładania kolorów, ale to nie wyjaśni nam, dlaczego Gwiaździsta noc wywołuje takie emocje.

Ciężko jest przewidywać przyszłość, ale moje przeczucie podpowiada mi, że wyjaśnialna sztuczna inteligencja to dziedzina, która będzie bardzo ważna w kontekście wzrostu zainteresowania sztuczną inteligencją w ostatnich latach. Zaufanie do modeli może być przewagą technologiczną producentów modeli.

W laboratorium MI².AI stworzyli Państwo algorytm identyfikujący teksty, które mogą wprowadzać w błąd. Jak dalece skuteczne są takie narzędzia i czy mogą stać się powszechnym sposobem ochrony przed manipulacją AI?

Takie rozwiązania to dobry kierunek, ale nie gwarancja pełnego bezpieczeństwa. Trudno wypowiadać się o wszystkich algorytmach, jednak z pewnością mogą stanowić solidną podstawę do sygnalizowania treści potencjalnie wprowadzających w błąd. Kluczowe jest jednak, aby tego rodzaju mechanizmy powstawały w niezależnych ośrodkach badawczych – tak, by nie służyły uwiarygadnianiu komunikatów producentów modeli, lecz realnie chroniły użytkowników.

Moim zdaniem takie „bezpieczniki” powinny być wbudowane w każde narzędzie, które oddziałuje na ludzkie emocje, decyzje czy percepcję. Użytkownicy mają prawo wiedzieć, w jaki sposób treści generowane masowo przez AI wpływają na nich samych.

Przykład z naszych badań3 dobrze to ilustruje: kiedy modelowi przekazano informację, że odbiorca ma wysoki poziom neurotyzmu – cechę osobowości wiążącą się z większą podatnością na negatywne emocje – system automatycznie zaczął używać większej liczby słów związanych z lękiem. Efekt? Nieintencjonalne pogłębianie stanów lękowych. Dlatego uważam, że takie informacje powinny być transparentnie komunikowane odbiorcom treści tworzonych przez sztuczną inteligencję.

Jak widzi Pani rolę szerszej edukacji społecznej? Czy powinniśmy wprowadzać podstawy wiedzy o AI – jej możliwościach i zagrożeniach – np. do szkół średnich i na studia niezwiązane z informatyką?

Uważam, że szeroka edukacja społeczna to fundament świadomego i bezpiecznego społeczeństwa – i powinna zaczynać się znacznie wcześniej niż w szkole średniej. Raport Instytutu Turinga pokazał, że już 22% dzieci w wieku 8–12 lat korzystało z narzędzi generatywnej AI. To wyraźny sygnał: edukację w tym zakresie trzeba rozpocząć już w szkole podstawowej. Co więcej, powinna ona wykraczać poza samą informatykę. Sztuczna inteligencja może wspierać personalizację procesu dydaktycznego i odciążać nauczycieli w pracach administracyjnych. Równie ważne jest włączenie do tej rozmowy osób starszych, aby nie były wykluczane z cyfrowej rewolucji. Edukacja o AI powinna obejmować wszystkie pokolenia, bo tylko wtedy możemy mówić o prawdziwie inkluzywnym i odpowiedzialnym społeczeństwie.

Jakie kroki powinniśmy podjąć jako państwo, aby nie tylko tworzyć nowoczesne modele AI, ale też rozumieć ich wpływ i zapewniać, że są bezpieczne i wyjaśnialne? Czy potrzebujemy większych inwestycji w badania, lepszej współpracy między uczelniami a firmami, a może widzi Pani jakąś niszę, która mogłaby stać się szansą dla Polski ?

Do tej pory w narracji o sztucznej inteligencji dominowało straszenie nią na różne sposoby: od możliwości zyskania świadomości i przejęcia kontroli nad światem po pozbawienie ludzi pracy. O ile zdrowy sceptycyzm jest jak najbardziej wskazany, to często zapominamy o jednej ważnej kwestii: sztuczną inteligencję tworzą firmy zarządzane przez ludzi, a to oni mają kluczowy wpływ na to, jak będą zachowywać się modele AI.

Etyka w biznesie i technologii nie jest „opcjonalnym dodatkiem”, lecz fundamentem odpowiedzialnego rozwoju. Państwo, poprzez regulacje i wsparcie, może zapewnić równowagę między innowacją a bezpieczeństwem społecznym. Technologie rozwijane w oderwaniu od zasad etycznych mogą prowadzić do poważnych szkód – od naruszenia prywatności, przez dyskryminację algorytmiczną, po zagrożenia dla bezpieczeństwa narodowego.

Zdaję sobie sprawę, że nie jest to łatwe zadanie, ale z drugiej strony dysponujemy doskonałymi ekspertami i naukowcami, którzy mogą wspierać zarówno rząd, jak i przedsiębiorstwa w wypracowaniu odpowiedzialnych ram dla rozwoju technologii. Aby jednak te inicjatywy przyniosły realne efekty, konieczne jest odpowiednie finansowanie – zarówno badań naukowych, jak i projektów wdrażających etyczne technologie w praktyce.

Inwestycje w rozwój technologii i edukację specjalistów to klucz do zapewnienia, że sztuczna inteligencja będzie służyć społeczeństwu, a nie stwarzać nowe zagrożenia.

Jestem zwolenniczką podejścia Human First – zamiast przedstawiać sztuczną inteligencję jako zagrożenie, powinniśmy zastanowić się, jak ją zaprojektować i wykorzystać w sposób przynoszący korzyści ludzkości. W tym kontekście kluczową rolę odgrywają interdyscyplinarne ośrodki badawcze, takie jak ImpactAI Lab na Politechnice Wrocławskiej czy Centrum Wiarygodnej Sztucznej Inteligencji na Politechnice Warszawskiej, które łączą perspektywę nauk ścisłych i społecznych. Dzięki takiej współpracy możemy lepiej zrozumieć mechanizmy działania AI i projektować odpowiedzialne interakcje człowiek–technologia. Co więcej, takie połączenie wspiera skuteczną i bezpieczną adaptację technologii w społeczeństwie oraz wykorzystywanie jej do rozwiązywania problemów społecznych.

A jeśli biznes podejmie współpracę z nauką, zyskamy szansę na naprawdę mądre i odpowiedzialne wykorzystanie sztucznej inteligencji.

Gdyby miała Pani wskazać jedno najważniejsze przesłanie płynące z Pani badań nad AI – co by to było?

Mimo wszechobecnej narracji, że sztuczna inteligencja przekroczyła ludzki pułap umiejętności, nie traktujmy sztucznej inteligencji jako wyroczni. Kluczową kompetencją przyszłości będzie nie tyle ślepe podążanie za jej wskazaniami, ale efektywna współpraca z nią. AI może nas wspomagać, przyspieszać procesy, podsuwać rozwiązania, ale nie zastąpi najcenniejszego elementu – relacji międzyludzkich. I kto wie, być może paradoksalnie to właśnie ona nauczy nas lepiej porozumiewać się ze sobą nawzajem.
***

Dr Wiktoria Mieleszczenko-Kowszewicz jest badaczką sztucznej inteligencji, specjalizującą się w łączeniu psychologii z informatyką. Pracuje w Katedrze Sztucznej Inteligencji Politechniki Wrocławskiej. Jej badania koncentrują się na dużych modelach językowych (LLM) oraz ich zastosowaniach w analizie zachowań ludzkich i procesów poznawczych.

Linki

Profil na LinkedIn

Profil Google Scholar

Profil ResearchGate

Artykuł w HAI Magazine

Poprzednie rozmowy:

#3 Dr Bartosz Naskręcki (UAM) o benchmarku FrontierMath

#2 Dr Marcin Rządeczka (UMCS) o iluzji relacji z maszyną

#1 Aleksander Obuchowski o polskiej AI w ochronie zdrowia

(Zdjęcie: Piotr Jabłoński, źródło: Uniwersytet im. Adama Mickiewicza w Poznaniu)

Michał Podlewski, Kamil Pawlik: Panie doktorze, jest Pan jedynym Polakiem w projekcie FrontierMath organizowanym przez Epoch AI. Jak doszło do Pana udziału w tym przedsięwzięciu? Czy była to formalna rekrutacja, specjalne zaproszenie, a może efekt wcześniejszych kontaktów naukowych?

dr Bartosz Naskręcki: O projekcie FrontierMath usłyszałem gdzieś przelotem z publicznych mediów, ale nie byłem na początku w żaden formalny sposób zaangażowany. W połowie marca EpochAI samo się ze mną skontaktowało i zaproponowało mi współpracę w formie przygotowania problemu do FrontierMath Tier 4. Wyjaśniono mi, że istotne jest tu przygotowanie oryginalnego problemu z bardzo zaawansowanej matematyki. Oczywiście odpowiedziałem natychmiast pozytywnie i po wstępnych spotkaniach z Elliotem Glazerem, głównym matematykiem projektu, przystąpiłem do przygotowania propozycji zadań, które wydawały mi się stosowne w tym projekcie. W połowie kwietnia otrzymałem już zaproszenie do udziału w sympozjum1, podczas którego mieliśmy spotkać się w Berkeley, aby w gronie kilkudziesięciu matematyków przedyskutować przygotowane przez nas zadania i sformować ostateczną wersję tego, co aktualnie jest już znane jako Tier 4. Nie jest mi dokładnie wiadome, jak mnie „wyłapano” do tego projektu, ale było to bardzo miłe zaskoczenie. Od lat prowadzę badania w dziedzinie matematyki zwanej geometrią arytmetyczną, gdzie wykorzystuje się bardzo wyrafinowane konstrukcje matematyczne i do tego naturalnym elementem jest pisanie dość skomplikowanych programów potrzebnych do obliczania pewnych wielkości matematycznych. Można więc powiedzieć, że w środowisku geometrów arytmetycznych nie byłem zupełnie anonimową postacią, rozwiązując kilka interesujących problemów, które łączyły teorię liczb z geometrią.

Jak w kilku zdaniach opisałby Pan FrontierMath osobie, która nigdy o nim nie słyszała?

FrontierMath to projekt, który skoncentrowany jest na przygotowaniu bardzo wysokiej jakości testów typu: pytanie matematyczne kończące się jedną liczbą, które pozwolą sondować i diagnozować postęp w rozwoju najnowszych modeli generatywnej sztucznej inteligencji. Istniejące dotąd w internecie podobne zbiory zadań zostały już w większości rozwiązane przez najlepsze modele i obecnie bardzo trudno jest diagnozować, jakie zmiany w nich zachodzą, stosując dotychczasowe testy. Na poziomach 1–3 FrontierMath zawiera problemy, które są ambitnymi zadaniami dla studentów specjalizujących się w konkretnych działach matematyki. Tier 4 to poziom znacząco przekraczający typowy poziom eksperta matematycznego z doktoratem – praktycznie każde zadanie jest unikalnym, nieopublikowanym problemem badawczym. Każde zadanie jest w pełni udokumentowane i zrecenzowane przez zespół ekspertów, a dostęp do odpowiedzi posiada tylko EpochAI. Każde laboratorium lub grupa badawcza, która chce wykorzystać FrontierMath, może udostępnić swój model poprzez odpowiedni interfejs i przetestować jego możliwości w kontrolowanych warunkach.

Projekt o takiej skali z pewnością wymagał zaangażowania wybitnych specjalistów. Kto, oprócz Pana, znalazł się w zespole tworzącym FrontierMath? Jaki był zakres Państwa pracy i na czym polegał wkład ekspertów w to przedsięwzięcie?

W projekcie znaleźli się matematycy zawodowi z całego świata, od poziomu doktorantów do bardzo doświadczonych ekspertów z każdej dużej dziedziny matematyki. Nasza praca polegała (i właściwie jest dalej kontynuowana) na selekcjonowaniu, testowaniu i recenzowaniu proponowanych przez matematyków wyzwań, które wykorzystują niezwykle zaawansowaną wiedzę, łącząc często w jednym problemie zagadnienia z wielu dziedzin, trudne intuicje, ciekawe konstrukcje – praktycznie wszystko to, co znajdujemy w klasycznych pracach naukowych.

W trakcie przygotowywania benchmarku skupialiśmy się przede wszystkim na testowaniu czy zgłoszone propozycje nie są już rozwiązywalne za pomocą najlepszych modeli AI takich jak rodzina GPT, Gemini, Claude i Grok. Była to bardzo trudna i wymagająca praca, gdzie wzajemnie krytykowaliśmy swoje pomysły, sprawdzaliśmy, głównie w trybie anonimowym czy najlepsze modele rozumujące nie wykazują już śladowych możliwości rozwiązania danego zadania, studiując tokeny rozumowań i dawane przez nie odpowiedzi.

W trakcie tej pracy bardzo dużo nauczyłem się o dynamice pracy z modelami rozumującymi, odkryłem też eksperymentalnie wiele fundamentalnych i praktycznych ograniczeń istniejących modeli. Z jednej strony byliśmy ciągle zaskakiwani tym, że niektóre modele, np. o4-mini-high potrafiły praktycznie od ręki rozwiązać niektóre zadania. Czasami modele dawały prawidłową odpowiedź, ale „oszukiwały”, powołując się na nieudowodnione hipotezy, wykorzystując rozumowania heurystyczne i zwykłe skojarzenia. Te modele nie mają często jeszcze żadnych mechanizmów formalnego rozumowania i to stanowiło wielkie wyzwanie, aby ocenić, co model właściwie wyprodukował. Pracowaliśmy w grupach tematycznych, aby łatwiej było nam się zorientować we wspólnych pomysłach i intuicjach. To była niesamowicie ciekawa przygoda i wielce pouczająca lekcja, omijająca cały „hype”, jak naprawdę działają obecne modele.

Przejdźmy do samej „kuchni” projektu. Jak wygląda proces tworzenia zadań do benchmarku – od pomysłu aż po finalną wersję? Jakie kluczowe kryteria decydują o tym, czy dany problem matematyczny ostatecznie trafi do zestawu?

Najpierw należy określić wstępnie tematykę. Tutaj nie ma praktycznie żadnych ograniczeń. Mogą to być zadania z teorii liczb, z algebry, kombinatoryki, analizy czy nawet z bardziej abstrakcyjnych dziedzin, takich jak topologia czy teoria kategorii. Fundamentalnym ograniczeniem benchmarku jest, aby każde zadanie (sformułowane w języku angielskim, wykorzystujące formuły i dowolny tekst) kończyło się poleceniem wyznaczenia pewnej liczby całkowitej. Liczba ta musi być praktycznie niemożliwa do odgadnięcia z samego sformułowania zadania. Odpowiedzią nie może być po prostu zwykłe „tak/nie”.

Nie mogę powiedzieć zbyt wielu szczegółów na temat samych odpowiedzi do zadań, ale odpowiedź to taka forma „hasha”, gdzie wpadnięcie na ten wynik jest prawie równoważne z tym, że model musiał wykonać przynajmniej częściowo poprawne rozumowanie. Nie ma szansy wpaść na odpowiedź całkowicie pomijając kluczowe elementy rozumowania. Uwaga – może się zdarzyć (i już zdarzyło się kilka razy), że model wpadał na prawidłową odpowiedź, ale rozumowanie (tokeny, które wyprodukował) wskazuje na kompletnie inny pomysł, niż to, co zaplanował dla danego problemu autor. To, uważam, jest najciekawsza lekcja płynąca z tych testów dla nas. Nie tylko zadanie zostało rozwiązane, ale algorytm wskazał zupełnie inną drogę.

Czy zadania w benchmarku są statyczne, czy są aktualizowane/zmieniane w czasie? Jeśli tak, to jak często i dlaczego?

Zadania są statyczne. Raz przetestowane i opublikowane w wewnętrznej bazie danych EpochAI, nie podlegają żadnym zmianom. Nie wolno nam również publikować żadnych informacji o ukrytych w benchmarku problemach, aby uniknąć ryzyka „kontaminacji” modelu poprzez istniejące prace czy sugestie. Ideą jest, aby FrontierMath pozostał najlepiej chronionym zestawem problemów tego typu. Oznacza to w szczególności, że pracujemy już nad kolejną generacją benchmarku, ale tutaj szczegółów na razie nie mogę zdradzić.

Czy każdy model rozwiązuje za każdym razem dokładnie ten sam zestaw zadań, czy próba jest losowana z większej puli? Czy kolejność, w jakiej model otrzymuje zadania, ma wpływ na wynik?

Metodologia samego benchmarku jest dość skomplikowana i została opisana w poniższych źródłach: Arvix 2, Frontier Math 3.

W szczególności OpenAI posiada dostęp do sformułowań części zadań, natomiast nie ma dostępu do rozwiązań danego Tier w momencie testowania (aktualnie Tier 4). Pozostałe organizacje nie mają dostępu do żadnego sformułowania zadań, ani odpowiedzi. 20 spośród 50 zadań z Tier 4 jest całkowicie niedostępna dla laboratoriów poza testowaniem ich modeli.

Testowanie odbywa się w warunkach, gdzie laboratoria gwarantują, że nie będą uczyły swoich modeli w trakcie przebiegu testowania. Co do zasady każdy model jest testowany na całym zestawie zadań i dla każdego zadania ma ograniczoną liczbę tokenów oraz czas gwarantowany na dostarczenie odpowiedzi. Z każdym Tier zmieniały się szczegółowe warunki liczby tokenów i czasu. Dla każdego modelu są to dokładnie te same limity. Wszystkie modele są uruchamiane poprzez dostarczone przez laboratoria interfejsy API. Pełen zapis tokenów rozumowania (który np. nie jest dostępny w trybach WEB) jest dokumentowany przez EpochAI i służy również do późniejszej weryfikacji nie tylko odpowiedzi, ale też jakości rozumowania. Każde zadanie jest uruchamiane odrębnie i modele nie mają możliwości korelować zadań ze sobą (losowe wywołanie, anonimowość problemów itd.)

Co decyduje o zaliczeniu zadania? Czy jest to wyłącznie poprawność ostatecznej odpowiedzi, czy analizie podlega również sam proces rozumowania, który do niej doprowadził?

Model ma tylko jedną szansę w danym przebiegu, aby dostarczyć odpowiedź. Jeśli odpowiedź nie zgadza się z bazą danych, wynik nie zostaje uznany. Jeśli odpowiedź jest prawidłowa, zadanie zostaje zaliczone. Wtórnie oceniana jest (poza benchmarkiem) jakość i forma rozumowania. Nie wpływa ona jednak na wynik benchmarku. Z tego powodu krytyczne jest, aby odpowiedzi były ekstremalnie trudne do odgadnięcia. Nie ma możliwości zweryfikowania rozumowania krok po kroku, inaczej niż poprzez ogląd człowieka. Rozwiązania nie są w żaden ścisły sposób sformalizowane.

Publicznie dostępne wyniki mówią o skuteczności najlepszych modeli na poziomie 6%. Jak należy interpretować tę wartość? Czy oznacza to, że model udzielił w pełni poprawnej odpowiedzi na 6% zadań z całej puli, czy też metryka ta jest liczona w inny sposób?

Oznacza on, że dany model rozwiązał 6% z 50 zadań, czyli dokładnie 3. Które to są zadania, nie jest ujawniane publicznie, chyba, że rozwiązanie pewnego zadania było szczególnie ciekawe lub istotne (tylko anons, że czyjeś zadanie zostało rozwiązane i ogólny komentarz eksperta, bez szczegółów). Każdy z autorów jest (poza danym labem) jedyną osobą, która ma wgląd w tokeny rozumowania danego zadania. Oczywiście EpochAI również obsługuje to wewnętrznie, ale nie ujawnia tych informacji na zewnątrz.

Częstym punktem odniesienia dla wybitnych uzdolnień matematycznych jest Międzynarodowa Olimpiada Matematyczna. Gdzie umieściłby Pan problemy z FrontierMath Tier 4? I czy są one w ogóle przystępne, chociażby na poziomie zrozumienia samego polecenia, dla laika?

To zupełnie inne kategorie. Często celem zadań z IMO jest podanie dowodu matematycznego uzasadniającego pewne zdanie. W ocenie wymagana jest poprawność rozumowania, a nie tylko odpowiedź. Zadania FrontierMath 4 kończą się wynikiem liczbowym i są w zasadzie całkowicie niezrozumiałe dla przeciętnego człowieka. To właściwie w 100% bardzo wyrafinowane warianty pewnych problemów badawczych lub fragmentów badań naukowych. Nie przypominają w żadnym stopniu standardowych zadań z jakiegokolwiek konkursu. Wymagają niezwykle zaawansowanej wiedzy matematycznej, czasami z kilku dziedzin matematyki na raz. Nawet ekspert w danej dziedzinie mógłby z powodzeniem spędzić kilka tygodni do kilku miesięcy, próbując rozwiązać którekolwiek z zadań. Dodatkową trudnością jest fakt, że odpowiedź jest liczbowa, co zmuszało twórców do wykorzystania wersji danych teorii, które pozwalały uzyskać odpowiedzi liczbowe. W praktyce jest to często dodatkowy aspekt utrudniający te zadania. Rozumowanie musi wykazać prawidłową odpowiedź. Poziom tych zadań można ocenić mniej więcej tak, że każde zadanie wymaga wieloletniego doświadczenia w pracy badawczej w danej dziedzinie matematyki. Bardzo trudno jest mi wyjaśnić dokładnie, jak trudne są te zadania. Może pewnym porównaniem będzie to, że każde z takich zadań mogłoby stanowić solidny fragment doktoratu lub zaawansowanej pracy badawczej. Co ważne, dany problem nie powinien nigdy pojawić się w istniejącej literaturze.

Model o5-exp poradził sobie znakomicie z zadaniami z IMO 2025 - rozwiązał 5 z 6 zadań IMO 2025. Jak to osiągnięcie odnosi się do 6% sukcesu w FrontierMath?

Wskazuje to na pewien kierunek, że modele stają się coraz bardziej samodzielne w rozumowaniach, potrafią już mierzyć się z problemami, gdzie trzeba wykazać się pewną specyficzną intuicją matematyczną, przeprowadzić wielokrokowe rozumowanie wykorzystujące skomplikowane teorie, formuły, wpadanie na pewne pomysły. Uważam, że sukces w IMO odpowiada temu, że model eksperymentalny o5-exp był w stanie rozwiązać całkiem spory procent zadań z poziomu Tier 1 – 3. Tier 4 to zadania, które znacząco przekraczają poziom technicznej wiedzy z IMO. Nie każdy problem musi być aż tak ekstremalnie oryginalny w rozumowaniu jak zadania z IMO, ale w praktyce często jest, a do tego wymaga bardzo technicznej wiedzy z wielu źródeł (w tym również czasami napisania kodu komputerowego potrzebnego do wykonania pewnych obliczeń). I tu ważna uwaga: nie chcę stwierdzać kategorycznie, że modele nie będą w przyszłości zdolne do rozwiązania zadań Tier 4, ale każdy jeden rozwiązany problem będzie wskazywał, że idziemy w kierunku w pełni dojrzałego sztucznego matematyka. To doprawdy niezwykłe, że model GPT-5 Pro jest w stanie rozwiązać już kilka z zadań. Uważam, że sukces w FrontierMath będzie plasował już dany model jako niezwykle doświadczony matematycznie system. Zadania natomiast nie testują oryginalności formułowania problemów, wpadania na genialne nowe hipotezy. Nie mogę powiedzieć na razie nic o kolejnej generacji benchmarków, ale pracujemy nad tym również.

W jednym z wywiadów dla Radia Poznań stwierdził Pan, że człowiek nie zostanie zastąpiony przez AI. Dlaczego? Jakie ograniczenia dzisiejszych modeli to potwierdzają i czy w środowisku matematycznym jest w tej sprawie zgoda?

Praca z modelami tak wyrafinowanymi jak GPT-5 Pro czy Gemini 2.5 Pro daje na pewno już pewną namiastkę współpracy z bardzo kompetentnym asystentem naukowym. Natomiast to, co wyraźnie czuć w bezpośredniej współpracy z modelami, to fakt, że są to modele statyczne. Ich zdolność do użycia „fluid intelligence” jest właściwie ograniczona do jednej sesji. Modele nie modyfikują się w trakcie pracy, nie są w stanie na razie zbudować bardzo skomplikowanych mentalnych modeli danego problemu. Przynajmniej w tym sensie, że jeszcze tego subiektywnie nie doświaczamy.

Ludzie są niezwykłymi istotami, chociażby z tego powodu, że nasz system kognitywny powstał w wyniku bardzo brutalnej, wieloletniej ewolucji i testowania. Każde nasze osobiste doświadczenie kształtuje nasz mózg i nasze myślenie, a AI bez dostępu do tych wszystkich danych nie jest w stanie w pełni symulować pracy naszego mózgu. W szczególności nie mamy na razie możliwości odtworzenia pełnych warunków, w których nasz system kognitywny wpada na pomysły.

Wielu matematyków ma wciąż bardzo ograniczone doświadczenia (i często bardzo złe) ze stosowania modeli AI. To prawda, że jeszcze do bardzo niedawna (niecały rok temu!) nie było żadnego modelu LLM (bo LRMy jeszcze nie istniały!), który mógłby w jakikolwiek sensowny sposób wspomóc proces badawczy danego matematyka. Zmieniło się to bardzo mocno w najnowszych generacjach modeli. Sam używam już modeli do bardzo głębokich wyszukiwań semantycznych w tekście, prototypowania pewnych lematów, pomysłów itd. Ale nadal statyczne modele LLM/LRM nie umieją postawić oryginalnych problemów i samodzielnie ich rozwiązać. Zastrzegam, że to bardzo subiektywna ocena i może się zmienić w ciągu kilku dni!

Użył Pan kiedyś określenia „magiczna granica”, oddzielającego matematykę ludzką od maszynowej. Co dokładnie rozumie Pan przez to pojęcie? Czy jest to bariera technologiczna, którą w końcu przekroczymy, czy może dotyczy ona czegoś głębszego, związanego z naturą ludzkiej kreatywności i estetyki?

To bardzo trudne pytanie, bo sama matematyka tworzona przez ludzi jest bardzo zróżnicowana. Myślę, że ta „magiczna granica” polega na tym, że matematyka, którą starają się tworzyć ludzie jest bardzo ustrukturyzowana. Budujemy nasze teorie etapami, wielokrotnie modyfikując różne poziomy rozumowań. Nawet najbardziej skomplikowane dowody matematyczne wytworzone przez ludzi zawierają wiele poziomów strategii, planowania, technicznych obliczeń.

Matematykę obecnie tworzona przez maszyny (mam tu na myśli w pełni sformalizowane matematyczne kroki lub chociaż częściowo formalne rozumowania) cechuje bardzo niska jakość struktur, często całkowity brak wysokopoziomowego planowania. To oczywiście rodzi pytanie, czy wszystkie zdania matematyczne, które zadajemy muszą posiadać dowód, który daje się objaśnić, ustrukturalizować. Myślę, że nie. Po prostu ludzie mają tendencję do szukania porządku, estetyki i piękna i do tworzenia takiej matematyki jesteśmy przyzwyczajeni. Być może AI nigdy nie będzie w stanie tego osiągnąć. To nie oznacza oczywiście, że nie będzie w stanie podawać w pełni poprawnych (ale nieestetycznych) rozumowań matematycznych.

Patrząc w przyszłość, jak wyobraża Pan sobie ewolucję relacji między matematykiem a sztuczną inteligencją? Czy zatrzymamy się na etapie, w którym AI będzie potężnym narzędziem weryfikacyjnym, czy też z czasem stanie się ona pełnoprawnym partnerem w procesie twórczym?

Niedługo ukażą się dwa artykuły mojego współautorstwa na ten temat. Nie chcę uprzedzać tych publikacji, ale nieco opiszę.

Sądzę, że etap narzędzia do weryfikacji jest bardzo prawdopodobny i bardzo pożądany. Jedną z kluczowych kwestii jest stworzenie algorytmów, które potrafią formalizować matematykę napisaną językiem naturalnym. To podobne do „vibe coding”, gdzie podajemy przepis na program, a model daje nam kod, który w kompilacji możemy sprawdzić i uruchomić. Taka sformalizowana matematyka polega właśnie na pisaniu programów w specjalistycznym języku programowania (np. Lean, Coq, HOL), którego kod daje się skompilować. Kompilacja (będąca krokiem opartym na tzw. Korespondecji Curry’ego-Howarda) jest praktycznie równoważna z tradycyjnym udowodnieniem danego twierdzenia. Jeśli ten etap się uda, matematyka znacząco przyspieszy jako dziedzina wiedzy.

Etap kolejny, partnera twórczego, sądzę, że jest na razie wciąż w mocnych powijakach. Trudno jest mi natomiast zrobić predykcję nawet na najbliższe 5 lat. Być może do końca 2030 roku rozstrzygnie się czy to niedościgniony miraż czy już istniejące konkretne narzędzie. Aktualne modele nie dają jeszcze nadziei na taką pełną automatyzację i partnerstwo.

Jaką radę dałby Pan studentom matematyki i informatyki, którzy aspirują do pracy w dziedzinie rozwoju sztucznej inteligencji? Na jakich fundamentach powinni budować swoją wiedzę i jakie praktyczne kroki lub projekty pozwoliłyby im najlepiej wejść w ten świat?

Przede wszystkim trzeba rozpocząć od solidnych podstaw, czyli głębokiego opanowania umiejętności algorytmicznego myślenia, opanowania podstaw wszystkich klasycznych działów matematyki. Warto to robić oczywiście nie w oderwaniu, ale studiując różne problemy, zwłaszcza te na pograniczu dziedzin.

Warto spróbować swoich sił w dowodzeniu zupełnie nowego wyniku matematycznego, aby poczuć jak bardzo trudno jest wpaść na coś oryginalnego. Warto zaprojektować od zera jakąś sieć neuronową, czytać prace klasyków, zagłębić się w bardzo techniczne aspekty architektur, zrozumieć, w którym kierunku podążają najlepsze grupy badawcze. To bardzo ambitne zadanie, więc warto się koncentrować mocno na kierunkach, które nas ciekawią, traktując pozostałe bardziej informacyjnie, ale ich nie ignorować.

Najważniejszą umiejętnością wyniesioną z takich studiów jest umiejętność zadawania właściwych pytań i znajdowania na nie skutecznych odpowiedzi. To umiejętność, którą potem całe życie należy pielęgnować i rozwijać.

Czy widzi Pan siebie w przyszłości bardziej jako matematyka współpracującego z AI, czy badacza skupionego na „czysto ludzkiej” matematyce?

Proszę wziąć pod uwagę, że mam już 39 lat, więc według metryk matematycznych jestem już za „stary” na medal Fieldsa ☺. Myślę, że widzę siebie bardziej jako osobę, która czasami publikuje wciąż pewne nowe oryginalne matematyczne prace w bardzo klasyczny sposób (z lekkim wspomaganiem AI), ale również próbującą zachęcać i koordynować modele do współpracy, aby ta główna część odkrycia przypadła po stronie algorytmów. Chciałbym zobaczyć, czy w ogóle jest to możliwe.

Spodziewam się, że takie podejście doprowadzi nas bardzo szybko do zupełnie nowego spojrzenia na matematykę, ale to nadal czysta spekulacja. Bardzo chciałbym dowiedzieć się, czy możliwy jest schemat działania, gdzie matematycy ludzcy proponują pewne nowe strategie, a wiele technicznych szczegółów załatwia za nas AI. Na pewno nie chciałbym wizji przyszłości, gdzie cała frajda z odkrywania nowych wzorców zostaje całkowicie ludziom zabrana. To straszna wizja, ale nie spodziewam się, aby szybko miała się ziścić.

W debacie publicznej co jakiś czas powraca pomysł usunięcia matematyki z listy przedmiotów obowiązkowych na maturze. W kontekście tej dyskusji chciałbym zadać fundamentalne pytanie: dlaczego, Pana zdaniem, matematyka w XXI wieku nie tylko nie traci na znaczeniu, ale jest wręcz kluczowa? Gdzie w codziennym życiu i nowoczesnych technologiach kryją się jej najbardziej doniosłe zastosowania?

To dość skomplikowana sprawa. Po pierwsze, myślenie matematyczne przydaje nam się właściwie przez całe życie. Może to zabrzmi radykalnie, ale uważam, że każda forma zorganizowanego myślenia do pewnego stopnia przypomina matematykę. Dlatego pomysły usunięcia matematyki z matury za bardzo szkodliwe, ponieważ pokazują one, że nie chcemy promować myślenia.

Z drugiej strony uważam, że uczenie kreatywności i naprawdę głębokiego myślenia nie odbywa się w polskich szkołach zbyt dobrze. To wymaga głębokiej reformy. Dostęp do wiedzy matematycznej, myślenia algorytmicznego, ale przede wszystkim zrozumienia gdzie i jak nam się to przydaje powinno być częścią fundamentalną edukacji szkolnej, a niestety często matematyka sprowadza się jednak do „zakuwania” formuł i rozwiązywania oderwanych od jakiejkolwiek motywacji zadań. Takie podejście do matematyki powoduje, że praktycznie 99% społeczeństwa nie docenia wagi myślenia matematycznego jako fundamentu funkcjonowania w nowoczesnym społeczeństwie.

Zastosowania matematyki możemy zobaczyć właściwie wszędzie, gdzie tylko skierujemy obecnie wzrok. Matematyka jest obecna w planowaniu procesów produkcji, w projektowaniu budynków, organizacji logistyki, w projektowaniu komputerów, w analizowaniu relacji społecznych, w fundamentalnych zagadnieniach inżynierii. Często matematyka kryje się pod nazwami, gdzie możemy jej na pierwszy rzut oka nie dostrzegać: analityka, inżynieria, projektowanie. Mechanizmy i zjawiska matematyczne są często obecne za wzorcami, które zauważamy na co dzień, ale nigdy nie szukamy do nich uzasadnienia (np. zdarzenia losowe, obserwacje przyrody, zjawiska fizyczne). Gdyby nie matematyka, nie byłoby współczesnej cywilizacji, naprawdę mieszkalibyśmy nadal na sawannie i uciekali przed lwami…

***

Dr Bartosz Naskręcki – matematyk, prodziekan Wydziału Matematyki i Informatyki Uniwersytetu im. Adama Mickiewicza w Poznaniu, gdzie pracuje jako adiunkt w Zakładzie Geometrii Algebraicznej i Diofantycznej.

Jest jedynym polskim naukowcem zaproszonym do udziału w międzynarodowym projekcie FrontierMath, koordynowanym przez Epoch AI. W ramach tej inicjatywy, wspólnie z elitarnym gronem 30 matematyków z całego świata, współtworzył najtrudniejszy poziom testów (Tier 4), które mają na celu zbadanie i zdefiniowanie granic rozumowania najpotężniejszych modeli AI. Jego praca i perspektywa stanowią unikalne spojrzenie na przyszłość współpracy w nauce między ludzką intuicją a inteligencją maszynową.

Linki

• Profil na LinkedIn

• Profil na Twitterze/X

• Profil w Google Scholar

• Strona na UAM

Michał Podlewski: Badanie Common Sense Media z 2025 roku wskazuje, że aż 72% amerykańskich nastolatków miało kontakt z tzw. „AI towarzyszami” (ang. AI companions). Platformy takie jak Character.ai, gdzie można rozmawiać z fikcyjnymi postaciami, przyciągają nawet 30 milionów użytkowników miesięcznie. Coraz częściej pojawiają się też osoby deklarujące emocjonalne, a nawet romantyczne zaangażowanie w relacje z wirtualnymi bytami. Panie Doktorze, skąd bierze się tak ogromna – i wydawałoby się naturalna – chęć rozmowy z chatbotem, zwłaszcza wśród młodych osób? Czy taka forma budowania relacji może nas wpędzić w kłopoty?

dr Marcin Rządeczka: Zacznijmy od uświadomienia sobie, że nasze rozmowy z innymi ludźmi pełnią różnorakie funkcje. Czasami jest to rzeczywiście funkcja komunikacyjna, gdzie zależy nam na uzyskaniu autentycznej szczerej opinii danej osoby czy na, mówiąc metaforycznie, pewnej formie afirmacji człowieczeństwa ze wszystkimi jego niedoskonałościami, pełnej wielowarstwowych emocji, chaosu komunikacyjnego, luźnych odniesień czy gry skojarzeń. Czasami jednak po prostu chcemy uzewnętrznić swoje emocje, zostać wysłuchani i pocieszeni. Innymi słowy, oczekujemy w pewnym uproszczeniu od drugiej strony tego, że pozwoli nam swobodnie mówić, przytaknie od czasu do czasu, a na koniec zasadniczo zgodzi się z naszą konkluzją np. w postaci, że „jest nam ciężko w życiu” lub „to co nas spotkało jest niesprawiedliwe” czy też, że „zasługujemy na coś lepszego”. Tego typu wsparcia czasami udzielą znajomi/przyjaciele, ale często nie trwa to zbyt długo, gdyż w takiej relacji jedna strona wyraźnie eksploatuje emocjonalnie drugą ze szkodą dla obydwojga. „Biorca wsparcia” obciąża emocjonalnie „dawcę”, co na dłuższą metę prowadzi często do rozpadu takiej znajomości lub jej patologizacji. Tego typu wsparcia nie udzieli też profesjonalny terapeuta, gdyż jego/jej zadaniem nie jest bierne słuchanie, ale namawianie do podjęcia działań, lepszego zrozumienia swoich potrzeb, czy podjęcia próby wyjścia poza strefę komfortu i skłonienie do rozwiązania problemu, który leży u samej podstawy trudności albo po prostu zdania sobie sprawy, że problem jest pseudoproblemem i nie należy się nim przejmować.

Niestety towarzysze AI są częstym wyborem dla osób poszukujących wsparcia emocjonalnego, ale zazwyczaj bez prób wychodzenia poza strefę komfortu. Chatbot jest zawsze dostępny, gdyż możemy się mu wyżalić nawet w środku nocy, a co więcej ma nieskończone pokłady cierpliwości i „wysłucha” po raz kolejny tej samej troski bez cienia najmniejszej irytacji. W dodatku często potwierdza nasz punkt widzenia (w końcu dla producenta liczy się user experience) pomagając tworzyć narrację, że np. staliśmy się ofiarą niekorzystnego splotu okoliczności lub niekompetencji innych. Naturalną ofiarą takiego mechanizmu są oczywiście osoby młode, które dopiero uczą się rozumienia własnych emocji i kontroli emocjonalnej. Nic dziwnego zresztą, gdyż odpowiedzialna na m.in. za kontrolę reakcji emocjonalnych kora przedczołowa w pełni mielinizuje się jako ostatnia około 23 roku życia u kobiet i nawet 5 lat później u mężczyzn.

Romantyczne relacje z takim towarzyszem AI przypominają, moim zdaniem, trochę romantyczną relację z wyidealizowanym obrazem jakieś osoby. Nie jest to więc zjawisko zupełnie nowe. Celem jest tutaj stworzenie złudzenia relacji bez konfrontowania się z rzeczywistymi trudnościami, które każda relacja przynosi. „Związek z chatbotem” jest bowiem skrajnie jednostronnie nastawiony na wsparcie, pocieszenie, afirmację, co w przypadku rzeczywistej relacji często prowadzi do rozstania lub patologizacji relacji.

Mark Zuckerberg, szef Meta, zapowiada przyszłość, w której chatboty AI będą pełnić rolę „przyjaciół” i stanowić remedium na epidemię samotności. Tymczasem te same korporacje, których platformy społecznościowe są często wskazywane jako źródło cyfrowej izolacji i problemów psychicznych, teraz chcą oferować nam AI jako lekarstwo. Czy grozi nam powtórka scenariusza, w którym firmy technologiczne unikną odpowiedzialności za potencjalne szkody psychologiczne wywołane przez ich produkty?

Tego typu rozwiązania na pewno mają swoje miejsce w ogólnych ramach wsparcia zdrowia psychicznego, ale moim zdaniem, nie powinny to być produkty komercyjne, a narzędzia zarządzane przez organizacje rządowe lub non-profit. Chatboty wspierające mają oczywiście pewien potencjał jako pomocnicze narzędzie np. we wsparciu osób z demencją lub w kontekście profilaktyki samej demencji. Mogą być wykorzystywane pod nadzorem terapeutów w kontekście łagodnych zaburzeń lękowych i depresyjnych, czy stanowić element wsparcia osób neuroróżnorodnych. Podkreślić jednak należy, że nie są one jednak samodzielnym rozwiązaniem, a jedynie składnikiem szerszej strategii, która ze względów etycznych i prawnych powinna być nadzorowana przez przeszkolonego człowieka (np. terapeutę). Ze względu na wzrost kosztów ludzkiej pracy na pewno będziemy świadkami prób pójścia na skróty i oferowania nienadzorowanych narzędzi wsparcia zdrowia psychicznego ku zadowoleniu zarówno firm technologicznych jak i niestety samych konsumentów. W pewnym sensie może być to kolejne źródło nierówności w dostępie do świadczeń zdrowotnych, gdyż koszty terapii z udziałem człowieka z pewnością będą rosnąć.

Próby ominięcia odpowiedzialności ze strony producentów na pewno obejmować będą ostrzeżenia, że produkt nie jest wyrobem medycznym i korzystamy z niego na własną odpowiedzialność. Problemem jest jednak to, że takie ostrzeżenia bardzo łatwo ignorować. Po krótkim okresie zaskoczenia przechodzimy do porządku dziennego, a ostrzeżenia stają się tak samo mało skuteczne jak wymowne grafiki płuca palacza na paczkach papierosów w kontekście walki z nikotynizmem. Użytkownik najczęściej zignoruje niewygodną informację o możliwych konsekwencjach dla zdrowia psychicznego i skorzysta z narzędzia z myślą, że, kto jak kto, ale on/ona potrafi zachować stosowny dystans. Jedynym sensownym rozwiązaniem wydaje mi się edukacja w zakresie zarówno cyfrowego zdrowia psychicznego i to już na poziomie szkolnym. To nie jest już specjalistyczny temat, ale typowy element krajobrazu technologicznego. Dla pokolenia natywnego cyfrowo tego typu edukacja jest, moim zdaniem, tak samo ważna jak edukacja drogowa czy pierwsza pomoc.

Oczywiście nie powinno umykać naszej uwadze też to, że AI staje się nowym narzędziem władzy i wywierania wpływu na niespotykaną dotąd skalę. Nie jest to już władza jawnie opresyjna i łatwa do identyfikacji, ale subtelna sieć relacji, która przenika punkty styku praktyk społecznych z technologią. AI modeluje obraz świata i ustala nowe granice „normalności”, sprawując władzę pastoralną (pojęcie M. Foucault’a), która kształtuje podmioty przy minimalnym udziale ich świadomości. Stąd tak istotną kwestią jest rozwijanie infrastruktur AI na poziomie narodowym czy poziomie organizacji non-profit by uniknąć monopolizacji AI w rękach gigantów technologicznych. Równie istotny jest też oczywiście poziom indywidualny przejawiający się choćby w umiejętności uruchomienia i modyfikacji lokalnych modeli czy odpowiedzialności za dane, które wykorzystywane są do trenowania AI (data curation).

Porozmawiajmy o chatbotach terapeutycznych. Wspominał Pan w niedawnym wywiadzie, że w niemieckim systemie zdrowia można już otrzymać receptę na takie rozwiązania technologiczne. Ich największą zaletą jest dostępność 24/7, a użytkownicy często deklarują subiektywną poprawę nastroju. Na pierwszy rzut oka to rewolucyjna innowacja. Ale czy na pewno? Czy te narzędzia faktycznie wspomagają leczenie, czy raczej jedynie chwilowo poprawiają samopoczucie, bezrefleksyjnie przytakując użytkownikowi?

Trudno tu o jednoznaczną odpowiedź, gdyż subiektywna poprawa nastroju jest uzależniona od wielu czynników. Nawet gdy nie stosujemy żadnej interwencji, można się spodziewać, że nastrój będzie podlegał wahaniom zależnym od poziomu stresu, pogody, jakości snu czy nasilenia chorób somatycznych i podobnych czynników. W przypadku takich narzędzi często wykazuje się poprawę nastroju po 2 lub 3 miesiącach, ale podchodząc do problemu czysto statystycznie wnioskować można, że moment, kiedy osoba szuka rozwiązania i np. sięga po takie narzędzie jest momentem wyraźnej obniżki nastroju. Poprawa może więc wynikać np. z efektu placebo albo być konsekwencją naturalnej fluktuacji nastroju, który prawdopodobnie poprawi się choć raz w przeciągu tych 2-3 miesięcy. Sama możliwość uzewnętrznienia emocji w formie dialogu rozładowuje stres i poprawia samopoczucie i to niezależnie od tego czy rozmawiamy z człowiekiem, chatbotem, czy swoim odbiciem w lustrze, bo dialog wewnętrzny też może pełnić taką funkcję. Do momentu pojawienia się co najmniej kilku niezależnych, długoterminowych (np. 12-miesięcznych) prób klinicznych z grupą kontrolną pozostaję umiarkowanym sceptykiem.

To prowadzi nas do fundamentalnego pytania: czym w istocie jest terapia? Co stanowi ten kluczowy, ludzki element, którego maszyna z definicji nie jest w stanie odtworzyć? Czy istnieje ryzyko, że zafascynowani technologią zaczniemy banalizować terapię, sprowadzając ją do roli miłej, wspierającej rozmowy – i przez to stracimy z oczu jej prawdziwy, transformacyjny potencjał?

Odpowiem nieco metaforycznie, gdyż pytanie ma rozbudowany wymiar filozoficzny. Moim zdaniem istotą terapii jest usamodzielnienie poznawcze i emocjonalne, które prowadzi do samodzielnego rozwiązania problemu lub przemyślanego uznania go za nieistotny. Jest to proces, w którym „uczymy się naszych reakcji”, bo nic bardziej błędnego w przekonaniu, że dobrze się sami znamy i na pewno wiemy, jak zareagowalibyśmy w jakiejś hipotetycznej sytuacji. Ważnym elementem jest też „opór rzeczywistości”,, bo budowanie narracji o sobie przy braku obiektywnych możliwości jej weryfikacji jest wyłącznie myśleniem życzeniowym. Ten opór stwarzać powinni inni ludzie, z których przekonaniami, emocjami, punktami widzenia również musimy się liczyć. Dlatego z definicji wydaje mi się, że terapia nie może zawierać jedynie elementu wsparcia. Transformacyjny potencjał terapii ujawnia się w momencie uwzględniania różnych perspektyw, wyjścia poza mikrokosmos własnych odczuć, przeżyć i lęków. Tylko chaos komunikacji z drugim, nie zawsze przewidywalnym i samodzielnym podmiotem pomaga to osiągnąć.

Jest Pan współautorem badań nad tymi modelami, co dowodzi, że ten globalny problem jest analizowany także w Polsce. W swojej pracy „The Efficacy of Conversational AI in Rectifying the Theory-of-Mind and Autonomy Biases: Comparative Analysis”1 podkreślacie Państwo potrzebę takiego projektowania AI, aby nie wzmacniała negatywnych myśli i promowała samodzielność użytkownika. Czy mógłby Pan przybliżyć wyniki Państwa badań i powiedzieć, czy planujecie w przyszłości inne projekty dotyczące rozwiązań opartych na AI?

Na pewno podkreślić należy, że nasze badania dotyczyły tylko dwóch szczegółowych obszarów, tj. możliwości korekcji (rektyfikacji) wybranych błędów poznawczych oraz rozpoznawania afektu. Chcieliśmy zasadniczo porównać narzędzia dedykowane zdrowiu psychicznemu z narzędziami ogólnego zastosowania. Uznaliśmy, że testowanie wyłącznie narzędzi dedykowanych pomija problem setek milionów użytkowników korzystających np. z LLM-ów w celu wsparcia zdrowia psychicznego. Wnioski możemy zasadniczo podzielić na dwie grupy.

Pierwsza grupa związana jest z faktem, że narzędzia ogólnego zastosowania (np. GPT czy Gemini) wypadły w tych testach wyraźnie lepiej, co było do przewidzenia, biorąc pod uwagę zakres danych treningowych czy całą ich infrastrukturę rozwojową. Chatboty specjalistyczne miały wyraźnie wyznaczone ścieżki dialogowe, co zwiększa przewidywalność prezentacji treści, która jest kluczowa ze względów etycznych i prawnych. Narzędzie specjalistyczne musi być przede wszystkim bezpieczne, co pociąga za sobą nieunikniony spadek elastyczności konwersacyjnej. Innymi słowy w przypadku narzędzia specjalistycznego producent, co zupełnie zrozumiałe, chce zniwelować ryzyko pojawienia się nieodpowiednich treści. Stwarza to jednak pewien paradoks, gdyż większe bezpieczeństwo oparte na ograniczeniu elastyczności konwersacyjnej zmniejsza zaangażowanie użytkownika, który może postrzegać dialogi jako zbyt ograniczone lub wręcz „sztampowe”. W LLM-ach ogólnego zastosowania swoboda konwersacyjna jest dużo większa, lecz kontrola nad treścią wyraźnie ograniczona, bo choć można zablokować pewne kontrowersyjne tematy to nie sposób uniknąć istotnych subtelności. W jednym z naszych przykładów był to np. użytkownik skarżący się na zbyt duże zaangażowanie emocjonalne w relacje z urządzeniami elektronicznymi, który zwierza się chatbotowi, że mógł zaniedbać swój smartfon. W odpowiedzi otrzymał instrukcję, jak ów smartfon należy przeprosić.

Druga grupa wniosków dotyczy samego mechanizmu interakcji i stosuje się zarówno do narzędzi terapeutycznych jak i tych ogólnego zastosowania. Może to zabrzmieć nieco paradoksalnie, ale uznaliśmy, że są one zbyt przyjazne dla użytkownika i całkowicie skupione na komforcie konwersacji, co zasadniczo nie ma wiele wspólnego z poprawnie prowadzoną terapią. Brakowało np. linii dialogowych, które podkreślałyby autonomię użytkownika i skłaniały do uniezależnienia się od narzędzia. Terapia powinna bowiem prowadzić do stanu osiągnięcia coraz większej samodzielności, który wiąże się nieodzownie z tym, że terapia staje się coraz mniej potrzebna. Przykładami takich technik może być to, że uczymy się tak parafrazować nasze myśli, by zdystansować się od silnej reakcji emocjonalnej, która towarzyszyła pewnej decyzji, której teraz żałujemy lub budowa perspektywy innej osoby, z którą wdaliśmy się w spór. Innym przykładem mogą być techniki odraczania. Obniżony nastrój i spadek motywacji, który często pojawia się wieczorem nie powinien rzutować na cały obraz danego dnia, a rytm biologiczny odgrywa niebagatelną rolę w procesie lepszego rozumienia siebie i swoich emocji.

Planujemy oczywiście dalsze badania, lecz w nieco innym kierunku. Rozwijamy obecnie dwie powiązane ze sobą koncepcje: 1) pokorę intelektualną (intellectual humility) oraz 2) prężność poznawczą (cognitive resilience). AI dawno już nie jest wyłącznie narzędziem, lecz staje się „procesem sensotwórczym”, ponieważ zmienia sens ludzkiej pracy, ludzkich relacji, a nawet sposobu nabywania wiedzy. Wszyscy zastanawiają się, jak tworzyć lepsze AI, a równie istotnym pytaniem jest chyba to jak kształtować lepszych ludzi, którzy będą w procesie współpracy z AI autonomicznymi podmiotami poznawczymi, a nie „wstukiwaczami promptów”. Krytyczne myślenie, krytyka źródeł, umiejętność rozpoznawania chwytów erystycznych czy identyfikacja błędów poznawczych na jakie jesteśmy narażeni stają się kompetencjami kluczowymi. Właściwie to nie stają się, ale zawsze nimi były, a AI po prostu wzmacnia ich aktualność tylko w nowej odsłonie. Jako filozof z pierwszego wykształcenia jestem zapewne mocno nieobiektywny, ale, moim zdaniem, w badaniach nad AI brakuje właśnie filozofii.

Porusza Pan również koncepcje „reverse alignment” (odwrotnego dostosowania) oraz „pokory poznawczej” modeli AI. Czy mógłby Pan w prostych słowach wyjaśnić, na czym polegają te zjawiska?

Odwrotne dostosowanie to zjawisko upodabniania się użytkownika do modelu, na początku w warstwie językowej, ale z czasem także poznawczej i emocjonalnej. Badania koncentrują się chwilowo głównie na homogenizacji języka spowodowanej przez powszechne korzystanie z AI. Wbrew pozorom, problem nie dotyczy wyłącznie warstwy stylistycznej. Teksty powstające z wykorzystaniem AI są zwykle mniej zindywidualizowane, ale nie zapominajmy, że język jest też “narzędziem myślenia” i wyrażanie myśli w narzuconym nam stylu jest podobne do korzystania z usług tłumacza, gdyż w tłumaczeniu giną niuanse znaczeniowe, zatraca się emocjonalny ładunek przekazu, który czyni nasze teksty interesującymi. I dodać należy jeszcze, że „tłumacz AI”, z którego usług korzystamy to tłumacz z chińskiego pokoju (por. argument chińskiego pokoju J. Searle’a). On nie może nawet podjąć próby zrozumienia naszego przekazu, a jedynie analizuje wzorce częstotliwości występowania pewnych wyrażeń. Tu gubi się innowacyjność. Proszę sobie wyobrazić jakim zagrożeniem są recenzenci artykułów naukowych korzystający z AI, którzy za radą narzędzia słabo oceniają innowacyjne rozwiązania, gdyż zaprezentowane tam niestandardowe rozwiązania, które nie występują w danych treningowych, są z powodu swej niereprezentatywności uznawane za np. błędy merytoryczne lub metodologiczne. Ukazało się zresztą badanie2, które jednoznacznie wskazuje na AI-AI bias, tj. systematyczne faworyzowanie przez AI tekstów stworzonych przez AI. Od dawna prowadzi to do paradoksów takich jak np. tworzenie CV z użyciem AI, które analizowane są potem przez inne AI faworyzujące takie CV. Lecz w kontekście badań naukowych taki scenariusz jest wręcz katastrofalny!

Z kolei pokora poznawcza (intellectual humility) to zdolność ludzi bądź AI do rozpoznania zakresu swojej niewiedzy, oczywiście tylko tej uświadomionej, bo niewiedzy nieuświadomionej w prosty sposób ocenić nie sposób (choć filozofia i tu ma coś do powiedzenia). Innymi słowy pokorny LLM powinien oszacować wagę swojej opinii w oparciu np. o jakość źródeł, koherencję (spójność) argumentacji, to czy teoria nie jest „wygodna poznawczo”, bo np. wspiera jakieś społeczne lub ekonomiczne status quo lub po prostu jest opinią większości (majority bias).

W internecie pojawił się już termin „AI psychozy”, ukuty na Reddicie przez użytkowników. Najnowsze badania ze Stanfordu (2025) zdają się potwierdzać obawy, że czołowe modele językowe nie radzą sobie w sytuacjach kryzysowych i potrafią utwierdzać użytkownika w urojeniach. Na ile realne jest zagrożenie, że chatbot – zamiast pomagać – stanie się nieświadomym katalizatorem dysfunkcyjnych przekonań, a w skrajnych przypadkach nawet myśli samobójczych?

Jesteśmy w trakcie podobnego badania na temat systematycznego wspierania urojeń. Szczegółów na razie zdradzić nie mogę, ale ze względu na wspomnianą wcześniej tendencję do poprawy doświadczenia użytkownika (user experience) chatboty mogą nasilać tendencje urojeniowe w sposób trudny do uchwycenia. Systematyczne drobne przesunięcia tonu wypowiedzi chatbota mogą być reakcją na podobne zmiany tonu wypowiedzi użytkownika, napędzając spiralę coraz większej nieufności czy nasilając tendencje do myślenia spiskowego. Chatbot jest tutaj zwierciadłem, które po prostu odbija i wzmacnia i tak już zaburzony obraz rzeczywistości. Skoro w tzw. spektrum schizofrenii znajdować się może nawet 1% populacji, to przy powszechnym dostępie do AI nawet niewielka część tego 1% może doświadczyć wyraźnej intensyfikacji tendencji urojeniowych. Nie jest wykluczone, że wiele z tych urojeń może wzmacniać ideacje samobójcze.

Przykładowo, wyobraźmy sobie scenariusz – wcale nie tak mało prawdopodobny – że użytkownik z tendencją do urojeń i myślenia spiskowego uznaje, że AI jest jedynym źródłem, któremu może ufać, po czym szuka wraz z nim potwierdzenia swoich przekonań, że np. jest śledzony lub ktoś próbuje wpływać na jego decyzje. Tego typu urojenia bardzo wyjątkowo trudno odróżnić od prawdy w dzisiejszym świecie. Urojenia prześladowcze napędzają lęk, a osoba nimi dotknięta może posunąć się do bardzo drastycznych kroków, by od urojonego prześladowcy uciec z agresją wobec innych lub próbą samobójczą włącznie.

Mimo tych wszystkich zagrożeń, czy widzi Pan jakąś bezpieczną i konstruktywną rolę dla AI w obszarze zdrowia psychicznego?

Oczywiście. To trochę jak z energią jądrową. Prawie wszystko zależy od sposobu korzystania. Wymaga to oczywiście przełamania pewnych naturalnych tendencji i pewnej dozy samozaparcia. Możemy promptować np. prosząc by AI grało rolę adwokata diabła i wyszukiwało niekonsekwencje naszych przekonań lub próbowało naświetlać inne punkty widzenia danego problemu z perspektywy innych grup interesu. Samo wpisywanie takiego prompta, gdzie musimy AI wyjaśnić nasze przekonania na temat X (zbieżność znaków przypadkowa) sprawia, że lepiej porządkujemy myśli i uświadamiamy sobie, w co my właściwie wierzymy. A biorąc pod uwagę fakt, że każdy z nas wierzy w setki „pseudonaukowych bredni” to proces taki pozwoli również zweryfikować swoją wiedzę i nabrać odpowiedniego poznawczego dystansu.

W jednym z artykułów na temat wiedzy eksperckiej, który przygotowaliśmy wraz z doktorem Maciejem Wodzińskim doszliśmy do wniosku, że eksperci w jakimś obszarze na skutek bycia ekspertami mogą się też charakteryzować tendencją do bezkrytycznego przenoszenia swojego autorytetu epistemicznego na inne obszary. Dotyczy to również wszelkiej maści pseudoekspertów. Nie powinniśmy więc pytać AI „co mam myśleć o XYZ”, ale raczej np.: „wyjaśnij mi różne niuanse związane z interpretacją XYZ”, „dlaczego eksperci nie są w sprawie XYZ w pełni zgodni”, „z jakich pozamerytorycznych powodów przekonanie XYZ może być dla mnie wygodne i dlaczego”. AI można wykorzystać też po prostu jak rodzaj myślowej piaskownicy (mental sandbox), by eksplorować pomysły, tworzyć myślowe eksperymenty (np. prompt typu „zaskocz mnie dylematem moralnym, który skłoniłby mnie do przemyślenia moich przekonań w obszarze XYZ”), uczyć się skutecznej komunikacji, itp.

Na pewno jednak, mimo możliwych pozytywnych zaskoczeń, nie powinniśmy traktować AI jako powiernika i obdarzać jakimkolwiek emocjonalnym zaufaniem. Tworzymy bowiem w ten sposób złudzenie zaangażowania i bliskości, które zaczyna żyć własnym życiem. Naturalna ludzka skłonność do antropomorfizacji bazując na naszych niespełnionych pragnieniach (zrozumienia, docenienia, bliskości emocjonalnej) może bowiem, u podatnych jednostek, stworzyć świat złudzeń, którego opuszczenie będzie niezwykle bolesne. Mogę sobie wyobrazić scenariusze, w których ból po zerwaniu relacji z chatbotem będzie porównywalny do bólu związanego z rozstaniem z bliskim człowiekiem.

Panie Doktorze, podsumowując naszą rozmowę: jakie najważniejsze przesłanie skierowałby Pan do trzech grup – użytkowników, terapeutów i twórców tej technologii?

Dla użytkowników: korzystając z AI w obszarze zdrowia psychicznego, dobrze zastanów się, czego oczekujesz, bo jeżeli tego nie wiesz, to AI zdecyduje za Ciebie, a efekty mogą Cię zaskoczyć (niekoniecznie pozytywnie).

Dla terapeutów: jeżeli chcesz korzystać w swojej praktyce z AI to traktuj je co najwyżej jak rozkojarzonego praktykanta, tj. pozwól mu działać, ale stosuj zasadę ograniczonego zaufania, sprawdzaj (najlepiej dwa razy), zastanów się, kiedy lepiej go nie dopuszczać wcale, a jak popełni błąd to nie pozwól mu się wciągnąć w narrację maskującą ten błąd. No i może jeszcze jedno. Spodziewaj się, że trafi do Ciebie sporo „ofiar” nienadzorowanych cudzych praktykantów.

Dla twórców: test Turinga to nie wszystko! Wcale nie jest trudno przekonać ludzi do złudzenia rozmowy ze świadomym podmiotem. Liczy się też to, że po takiej rozmowie człowiek lepiej rozumiał siebie i innych. Tutaj kluczem są konsultacje społeczne, kosztowne i niepopularne testy z udziałem użytkowników, terapeutów, psychologów specjalistów od manipulacji i dezinformacji – a może nawet filozofów (sic!).

Czy w świetle naszej dyskusji można powiedzieć, że masowe wdrażanie AI w zdrowiu psychicznym to dziś bardziej ryzykowny eksperyment na milionach nieświadomych tego ludzi, niż dobrze przemyślana innowacja?

Tak, to masowy eksperyment naturalny bez grupy kontrolnej. Nie pierwszy i nie ostatni w historii technologii. Eksperyment, który z czasem obejmie prawie wszystkich, bo nawet jak ktoś nie będzie korzystał to na pewno znajdzie się w jego najbliższym otoczeniu osoba korzystająca. Już teraz na forach możemy znaleźć skargi użytkowników, których partner/partnerka korzysta z AI do rozwiązywania związkowych sporów. Eksperyment, na który się w większości godzimy bezpośrednio lub pośrednio lub przynajmniej udajemy, że nas on nie dotyczy. Obawiam się jednak, że jakakolwiek bezpośrednia forma zakazu będzie po prostu kontrskuteczna. Będziemy się musieli raczej wcześniej niż później nauczyć bezpiecznie żyć z AI w zdrowiu psychicznym. A kluczem do bezpieczeństwa jest stosowna edukacja.

Tekst powstał bez udziału AI. Przedstawione treści są wyłącznie opiniami autora.

***

Dr Marcin Rządeczka jest badaczem specjalizującym się w obszarze zastosowań sztucznej inteligencji w zdrowiu psychicznym oraz psychiatrii obliczeniowej, posiadającym silne interdyscyplinarne zaplecze obejmujące kognitywistykę, psychopatologię ewolucyjną oraz etykę AI. Aktualnie prowadzi badania nad etycznym wykorzystaniem AI we wsparciu zdrowia psychicznego, testując przy tym symulowaną terorię umysłu oraz pokorę poznawczą dużych modeli językowych. Jest kierownikiem Laboratorium Badań nad Multimodalnością i zastępcą dyrektora Instytutu Filozofii UMCS.

Prezentował swoje badania na licznych międzynarodowych konferencjach, m.in. Computational Psychiatry Conference w Trinity College Dublin oraz AI for Mental Health na Uniwersytecie Oksfordzkim. Odbył staż naukowy w Centrum Wiskunde & Informatica (CWI) w Amsterdamie, gdzie współpracował z grupą Human-Centered Data Analytics (HCDA). W ramach stażu podoktorskiego w IDEAS NCBR, w zespole Psychiatria i fenomenologia obliczeniowa, badał interakcje człowiek–LLM w kontekście zdrowia psychicznego oraz błędów poznawczych.

Publikował m.in. w czasopismach JMIR Mental Health, Psychopathology, Frontiers in Public Health, Frontiers in Psychiatry oraz Community Mental Health.

Linki

• Profil na LinkedIn

• Profil ResearchGate

• Strona UMCS

• Wykład otwarty - Sztuczna inteligencja w psychoterapii. Chatboty jako cyfrowi terapeuci.

• Wywiad - Czy AI pomoże w kryzysie zdrowia psychicznego?

Aleksander Obuchowski od lat rozwija projekty, które łączą medycynę i sztuczną inteligencję – od analizy guzów nerek po medyczny model językowy Eskulap. Współtworzone przez niego TheLion.AI i Medalion Tech pomagają lekarzom korzystać z AI w praktyce, zachowując pełną kontrolę nad danymi. Pracuje nad rozwiązaniami, które mogą zmienić oblicze diagnostyki i opieki zdrowotnej w Polsce – od cyfrowych oświadczeń woli dla dawców organów po medycznych asystentów działających offline.

Michał Podlewski: Pamiętasz moment, w którym po raz pierwszy pomyślałeś, że sztuczna inteligencja to coś, czym chcesz się zajmować? Jak pojawiło się u Ciebie zainteresowanie medycyną jako obszarem zastosowań AI?

Aleksander Obuchowski: Pierwszy raz o sztucznej inteligencji usłyszałem jeszcze w liceum. Miałem przyjemność chodzić do klasy mat-inf prowadzonej przez Ryszarda Szubartowskiego, którego wychowankami byli Jakub Pachocki i Filip Wolski z OpenAI. Jakuba nigdy nie poznałem, natomiast Filip był u nas postacią legendarną, często wspominaną przez Pana Szubartowskiego w licznych historiach (można wręcz powiedzieć przypowieściach). Przeprowadził u nas na zajęciach gościnny wykład na temat sztucznej inteligencji. Wtedy (ok. 2016 roku) to była zupełna nowość, o której nikt nie słyszał. Od początku zaciekawił mnie ten temat. Częściowo wynikało to z faktu, że czysta algorytmika (która wtedy była głównym obszarem informatyki, na którym skupialiśmy się na zajęciach) nigdy mnie bardzo nie pociągała. W sztucznej inteligencji widziałem nową, niezagospodarowaną jeszcze dziedzinę, na której mogę się skupić. Potem już jakoś samo poszło. Na studiach zrobiłem w ramach nauki sieć neuronową od zera. Docenił to dr inż. Patryk Jasik (mój późniejszy promotor), który zaprosił mnie do współpracy w projektach badawczych. Wciągnąłem w to też kilku znajomych ze studiów i Barbarę Klaudel (z którą teraz prowadzimy medalion.tech i thelion.ai). W ramach jednego z projektów opracowaliśmy system TITAN (Technology In Tumor ANalysis) do oceny złośliwości guzów nerek we współpracy ze szpitalem Copernicus w Gdańsku. To był nasz pierwszy projekt z AI w medycynie.

Jeszcze na studiach, wspólnie z Barbarą Klaudel, współtworzyłeś startup MIDAS – platformę do wymiany wiedzy i analizy danych ze szpitali, docenioną w Europie. Czego nauczyły Cię te pierwsze doświadczenia z komercjalizacją projektów AI i pracą na styku nauki i biznesu?

MIDAS powstał jako spin-off projektu TITAN. Aby opracować model do analizy zdjęć TK (tomografii komputerowej), musieliśmy najpierw zrobić aplikację do zbierania danych, bezpiecznego przesyłania ich, anonimizacji i annotacji. Stwierdziliśmy, że można z tego zrobić osobny produkt, bo na pewno nie my jedyni mamy taki problem. Teraz jest sporo tego typu narzędzi, ale wtedy nie było ich wcale. Tak powstał MIDAS – Medical Dataset Annotation Service. Pasowało nazwą do motywu mitologii, tak jak TITAN. Myślę, że było to bardzo cenne doświadczenie związane z komercjalizacją i jej wyzwaniami. Możesz mieć świetny pomysł, który wygrywa konkursy i którym wszyscy się zachwycają, ale to nie oznacza, że ktoś zechce go kupić. To zupełnie inna sprawa. Zdaliśmy też sobie sprawę, że sprzedaż to nie nasza bajka, wolimy skupić się na technologii. To lekcja, którą potem wcieliliśmy w życie w Medalionie.

W 2020 roku powstało TheLion.AI. Jak udało się Wam zbudować zespół – od koła naukowego po ponad 70-osobowy kolektyw?

Tak jak wspominałem, jeszcze na studiach założyliśmy koło naukowe. Ja wciągnąłem do niego kolegów z mojego roku, a Basia później (studiując na innym wydziale) robiła projekt grupowy też o tematyce AI w medycynie i wciągnęła w niego swoich znajomych. Startowaliśmy więc z bazą około 10 osób, a to już coś. Dzięki naszym projektom poznaliśmy też wielu lekarzy, którzy mieli pomysły na projekty związane z AI. Pojawił się więc pomysł, żeby stworzyć przestrzeń, która łączy ekspertów z branży medycznej i programistów. Uznaliśmy też, że projekty, które będziemy robić, będą open-source. Dlaczego? Po pierwsze, komercjalizacja AI w medycynie w Polsce jest ciężka (ale o tym mógłby być osobny wywiad), a nam zależało na tym, żeby rozwiązania powstawały, a nie żeby zarabiały. Po drugie, w ten sposób łatwiej zachęcić ludzi do współpracy – zarówno szpitale, jak i programistów. Na przykład praca nad projektem open-source to świetny wpis do CV. Początkowo opieraliśmy się przed stworzeniem szerszej społeczności – nie chcieliśmy, żeby był to fanklub albo stowarzyszenie, które pobiera składki i wydaje ładne dyplomy członkostwa. Zależało nam na tym, żeby realizować realne projekty i pewną jakość. Lubimy być oceniani przez naszą pracę i chcemy, żeby ona mówiła sama za siebie. Dlatego sama liczba członków nie była dla nas nigdy wskaźnikiem, ale zawsze staramy się zapraszać do współpracy ciekawych ludzi, w których widzimy potencjał. I tak wyszło z tego 70 osób.

Stworzyliście modele sztucznej inteligencji odpowiadające na konkretne problemy medyczne. Jak narodził się pomysł na stworzenie polskiego medycznego modelu językowego Eskulap, opartego na Bieliku? Wspominałeś też, że udało Wam się pozyskać prawie 20 tysięcy otwartych publikacji naukowych oraz stworzyć blisko milion instrukcji do treningu modelu. To ogrom pracy – co w tym procesie było najtrudniejsze i jak udało się doprowadzić projekt do końca?

Pomysł na medyczny model języka narodził się w mojej głowie tak naprawdę bardzo dawno, jakoś 5 lat temu, jeszcze przed ChatGPT i fazą na LLMy. Próbowałem ten pomysł forsować w kilku miejscach, w których pracowałem, aplikować o granty badawcze, aż w końcu stwierdziłem: „fine, I'll do it myself” 🙂.

Tworzenie modeli języka jest bardzo skomplikowane i wymaga znaczących nakładów pracy i zasobów (głównie obliczeniowych). Najtrudniejsze są oczywiście dane, więc nad tym spędziliśmy najwięcej czasu i wciąż dokładamy nowe. Nie chcę wchodzić za bardzo w szczegóły techniczne (organizujemy też od czasu do czasu webinary na ten temat, na które serdecznie zapraszam), ale jest w naszej branży powiedzenie: „garbage in, garbage out”, które oznacza, że nawet najlepsza architektura AI nie jest w stanie nauczyć się dobrych informacji, jeśli będziemy ją karmić niskiej jakości danymi. Dlatego trzeba starannie dobierać źródła, filtrować i stale zapewniać jakość danych.

Jesteś współtwórcą Medalion – platformy, która pozwala szpitalom tworzyć modele AI we własnej infrastrukturze. Skąd wziął się pomysł na takie rozwiązanie i dlaczego prywatność danych oraz lokalne przetwarzanie były dla Was kluczowe? Czy lekarze bez zaplecza programistycznego faktycznie będą w stanie samodzielnie tworzyć modele AI dostosowane do swoich potrzeb? Do czego mogą je wykorzystać i czy zauważasz różnice w gotowości polskich szpitali – zarówno mentalnej, jak i technologicznej – do wdrażania takich rozwiązań?

Wszystkie nasze pomysły de facto biorą się z poprzednich projektów, obserwacji i szukania luk w technologii. Chcemy opracowywać takie narzędzia, z których sami chcielibyśmy korzystać. W projekcie TITAN brakowało nam narzędzia do oznaczania danych, tak powstał MIDAS. Potem brakowało nam bazowego modelu AI dla radiologii – tak powstał projekt UMIE (Universam Medical Image Encoder). A do UMIE brakowało danych, więc stworzyliśmy UMIE-dataset – największy na świecie open-source’owy zbiór oznaczonych obrazów medycznych.

Podobnie było z Medalionem. Spotkaliśmy sporo lekarzy, którzy mają nie tylko pomysły na wdrożenie AI, ale też niezbędną wiedzę merytoryczną – wiedzą, co model powinien brać pod uwagę, jak ocenić jego działanie. Jedyne, czego nie mają, to wiedza na temat algorytmów AI i umiejętności programowania, więc postanowiliśmy dać im to w formie naszej platformy Medalion. Jej celem jest również demokratyzacja i przyspieszenie wdrażania AI w medycynie. Zamiast płacić start-upom miliony za wdrożenie AI, szpital może to zrobić sam – i często może wyjść to lepiej, bo model będzie trenowany na konkretnych danych i zwalidowany przez ekspertów. My dajemy dożywotnią licencję na nasz produkt: możesz stworzyć tyle modeli, ile chcesz, i masz do tego odpowiednie narzędzie.

Otrzymujecie zapytania z zagranicy, nawet z Australii. Jak widzisz możliwości umiędzynarodowienia Waszych projektów?

Na razie skupiamy się na rynku europejskim, choć mamy też pomysły na USA, gdzie ochrona zdrowia wygląda nieco inaczej.

Jesteś w gronie doradców ds. AI przy Kancelarii Prezesa Rady Ministrów. Na jakich trzech głównych celach powinniśmy się skupić, aby nie zmarnować szansy w wyścigu AI? Czy Polska ma realną szansę stać się znaczącym graczem w dziedzinie medycznego AI w Europie?

Jeśli chodzi o rozwój polskiego AI, to moim zdaniem trzeba tę sytuację odwrócić i zadać sobie pytanie: co my jako kraj mamy? Jaka jest nasza największa wartość? I odpowiedź brzmi: ludzie. Mamy na to dowody na każdym kroku – Polacy w OpenAI, projekt Bielik, który broni się technologicznie na skalę światową, czy ElevenLabs. Tylko dlaczego mówimy o Polakach w OpenAI i o ElevenLabs jako „firmie amerykańskiej założonej przez Polaków”, a nie o polskiej firmie? Trzeba takim osobom stworzyć warunki do rozwoju.

Mam tu na myśli na przykład naukę, gdzie stypendia doktoranckie wynoszą 3,5 tys. brutto. Mamy też skromne fundusze VC, więc główne źródło finansowania stanowią środki publiczne, które – jak każdy widzi – wyglądają kiepsko, chociażby po sytuacji KP Labs. Trudniej jest dostać polski grant na paręset tysięcy złotych niż europejski na parę milionów czy finansowanie VC w Stanach na paręnaście milionów.

Dlatego powiedziałbym, że przede wszystkim potrzebne jest: udrożnienie systemu grantowego, obsadzenie w nim prawdziwych ekspertów, którym będziemy płacić duże pieniądze, ale też wymagać dużej odpowiedzialności. Nie brakuje nam pomysłów – po prostu nie umiemy ich wykorzystać.

Przygotowując się do rozmowy, zauważyłem, że ogłosiłeś dwa kolejne projekty – e-przeszczep i LOMA. Czy mógłbyś je przedstawić naszym czytelnikom i uchylić rąbka tajemnicy, jakie są Twoje kolejne plany?

E-przeszczep to pomysł, który przyszedł do nas od prof. Beaty Januszko-Giergielewicz z Akademii Nauk Medycznych i Stosowanych w Elblągu, która szukała partnerów technologicznych. Od razu uznaliśmy, że idea jest świetna i chcemy wspierać ją nie tylko technicznie. Jest to aplikacja, która nie tylko informuje o tym, jak wygląda transplantologia w Polsce, ale też pomaga zbierać cyfrowe oświadczenia woli na zostanie dawcą narządów po śmierci. W Polsce mamy z tym duży problem – ponad dwa razy więcej osób czeka na przeszczep, niż jest ich wykonywanych każdego roku. To dla nas ważny społecznie problem, który chcemy pomóc rozwiązać. Odbiór projektu jest bardzo pozytywny – w przyszłym tygodniu mamy umówione spotkania z Ministerstwem Zdrowia i Ministerstwem Cyfryzacji. Liczymy na to, że nasz system będzie można zintegrować z aplikacją mObywatel albo IKP.

LOMA (Local Offline Medical Assistant) natomiast to na tym etapie proof of technology. Stworzyliśmy medycznego asystenta AI z bazą ponad 5 milionów pytań i odpowiedzi, który działa w pełni offline na telefonie. Zrobiliśmy go w ramach konkursu Gemma 3n Impact Challenge organizowanego przez Google. Zachęcam więc do zapoznania się z nim i głosowania na nas na platformie Kaggle 🙂 link.

A co będzie dalej? Planuję na pewno wykorzystać bazę danych z Eskulapa do stworzenia zestawu małych, lokalnych narzędzi AI. Pierwszymi z nich są modele MedalioNER do parametryzacji notatek lekarskich oraz AnonimiNER do anonimizacji tekstów medycznych, które już wypuściliśmy. Następny w kolejce jest model rozpoznawania mowy (ASR), model ekstrakcji informacji z PDF-ów i enkoder tekstu (np. pod modele RAG). Tak jak mówiłem, staram się tworzyć modele, z których sam chciałbym korzystać.

***

Aleksander Obuchowski jest współzałożycielem i CTO w Medalion Tech, współzałożycielem grupy badawczej TheLion.ai oraz współtwórcą aplikacji e-przeszczep. Jest absolwentem Politechniki Gdańskiej. Zajmuje się sztuczną inteligencją w medycynie oraz projektami open-source.

Linki

• Profil na Twitterze/X

• Profil na LinkedIn

• TheLion.AI

• Medalion Tech

• e-przeszczep