Kwartalnik o tematyce społeczeństwa obywatelskiego

Wdrażanie systemów automatycznego podejmowania decyzji w sektorze publicznym. Wyzwania dla państwa i organizacji pozarządowych

Abstrakt

Artykuł prezentuje wyzwania związane z procesem wdrażania systemów teleinformatycznych automatycznego podejmowania decyzji w sektorze publicznym z perspektywy organizacji pozarządowych w Polsce. Autor nie ogranicza się wyłącznie do rozwiązań opartych na sztucznej inteligencji, będących przedmiotem ożywionej debaty publicznej, ale wskazuje ryzyka związane również z prostszymi narzędziami technologicznymi, które już od wielu lat są używane przez władze publiczne. Ograniczenie czynnika ludzkiego w wykonywaniu określonych zadań publicznych zmniejsza przejrzystość i rozliczalność instytucji i może prowadzić do multiplikowania dyskryminacji. Organizacjom pozarządowym brakuje z kolei kompetencji i zasobów do kontroli i ograniczania tych ryzyk. Wymagane są pilne zmiany prawne oraz stworzenie ram finansowania ich działalności w tym obszarze.

Implementing automated decision- making systems in the public sector. Challenges for the state and non-governmental organizations

Abstract

The article presents the challenges associated with the process of implementing ICT systems for automated decision- making in the public sector from the perspective of non-governmental organizations in Poland. The author does not limit himself to solutions based on artificial intelligence, but points out the risks associated also with simpler technological tools that have already been used by public authorities for years. Restricting the human factor in the implementation of certain public tasks limits the transparency and accountability of institutions and may result in the multiplication of discrimination. Non-governmental organizations lack competence and resources to control and mitigate these risks. Urgent legal changes are required, as well as the creation of a framework for funding their activities in this area.