Ludzie jako „pasterze AI”, czyli 6 trendów technologicznych według TechSonar2025-2026

08/12/2025

Eiod (Ang. Edps, Ai, Sztuczna Inteligencja, Technologia, Zgodność, Raport Techsonar, Ludzkakontrola,

Europejski Inspektor Ochrony Danych (ang. EDPS) opublikował kolejną edycję raportu TechSonar 2025-2026. I tym razem większość trendów technologicznych skupia się wokół technologii AI. Raport ostrzega przed rosnącą autonomią systemów sztucznej inteligencji i podkreśla konieczność zachowania ludzkiej kontroli nad algorytmami.

Ludzie jako „pasterze AI”, czyli 6 trendów technologicznych według TechSonar2025-2026

2 wyzwania związane z rozwojem AI według TechSonar 2025-2026

Europejski Inspektor Ochrony Danych, Wojciech Wiewiórowski, ostrzega, że w miarę jak systemy AI stają się bardziej autonomiczne, ludzie będą musieli przyjąć rolę „pasterzy agentów AI". Oznacza to przejście od bezpośredniego wykonywania zadań do nadzorowania systemów AI działających samodzielnie. To z kolei wiąże się z dwoma dużymi wyzwaniami, jakimi jest: zapewnienie zgodności postępu technologicznego z prawami podstawowymi oraz ochrona ludzkiej autonomii przed dominacją algorytmów, które mogą ograniczać naszą zdolność do podejmowania niezależnych decyzji.

Raport TechSonar 2025-2026: 5 na 6 przewidywanych zagrożeń dotyczy technologii AI

Wśród wskazanych trendów technologicznych znalazły się:

Agentic AI – systemy sztucznej inteligencji mogące autonomicznie podejmować decyzje i realizować cele bez stałej interwencji człowieka. Systemy te same w sobie mają rozumować, planować i podejmować działania, by zrealizować cele.
AI companions – AI pełniące funkcje „cyfrowych towarzyszy”. Ich zadaniem jest symulowanie relacji międzyludzkich, np. wirtualnych przyjaciół czy romantycznych partnerów.
Automated proctoring – narzędzie wykorzystywane do zdalnego nadzorowania egzaminów online, które za pomocą AI ma wykrywać podejrzane zachowania.
AI-driven personalised learning – systemy dostosowujące treści edukacyjne do indywidualnych potrzeb każdego z uczniów w czasie rzeczywistym.
Coding assistants – asystenci generujący kod za pomocą instrukcji pisanych w języku naturalnym.
Confidential computing – technologia chroniąca dane podczas ich przetwarzania dzięki tworzeniu bezpiecznych enklaw w procesorach. Jednocześnie jest to jedyny z 6 trendów TechSonar 2026 niezwiązany z AI.

Pełny raport EIOD (ang. EDPS) dostępny jest pod adresem: https://www.edps.europa.eu/data-protection/technology-monitoring/techsonar_en

Masz pytania?

Jeśli masz więcej pytań dotyczących RODO i sztucznej inteligencji- więcej informacji znajdziesz w naszym serwisie. Przejrzyj nasze zasoby!

Jeżeli chcesz być na bieżąco z tematyką RODO, prawa nowych technologii i AI obserwuj nas!

Facebook https://www.facebook.com/odoserwis.pl.2016/

Linkedin https://www.linkedin.com/company/odoserwis-pl/

Wydawcą odoserwis.pl jest firma JDS Consulting świadcząca usługi outsourcingu Inspektora ochrony danych, doradztwa i audytu RODO; www.jds.com.pl

Jeżeli chciałbyś skorzystać z opinii lub porady prawnej nie wahaj się skontaktować z nami office@jds.com.pl ; www.jds.com.pl

Eiod (Ang. Edps, Ai, Sztuczna Inteligencja, Technologia, Zgodność, Raport Techsonar, Ludzkakontrola,

Zobacz również

Sztuczna inteligencja / AI act

EROD i EIOD: uproszczenie ustawy o sztucznej inteligencji nie może osłabiać ochrony praw podstawowych

Europejska Rada Ochrony Danych (EROD) i Europejski Inspektor Ochrony Danych (EIOD) przyjęli wspólną opinię w sprawie wniosku Komisji Europejskiej. Wniosek ten dotyczy „Cyfrowego omnibusa w sprawie sztucznej inteligencji” (ang. „Digital Omnibus on AI”). Choć organy popie(...)

Sztuczna inteligencja / AI act

Jak zapewnić zgodność z RODO? EIOD przedstawia wytyczne zarządzania ryzykiem dla systemów AI

Europejski Inspektor Ochrony Danych (ang. EDPS) opublikował wytyczne dotyczące identyfikacji i ograniczania ryzyka związanego z przetwarzaniem danych osobowych w systemach AI (ang. „Guidance for Risk Management of Artificial Intelligence systems”). Dokument skierowany j(...)

Sztuczna inteligencja / AI act

UODO bada wykorzystanie sztucznej inteligencji

Urząd Ochrony Danych Osobowych przygotował specjalną ankietę dotyczącą technologii AI dla instytucji i organizacji. Celem badania jest rozpoznanie potrzeb różnych podmiotów – publicznych, prywatnych i pozarządowych – w obszarze wykorzystywania narzędzi opartych na sztuc(...)