Η Τεχνητή νοημοσύνη στην υπηρεσία των πολιτών

Στις 12 Δεκεμβρίου 2023 εγκαινιάστηκε ο πρώτος «Ψηφιακός Βοηθός» -«mAigov» Τεχνητής Νοημοσύνης, διαθέσιμος στην Ενιαία Ψηφιακή Πύλη της Δημόσιας Διοίκησης (gov.gr) με στόχο την διευκόλυνση της καθημερινότητας των πολιτών και την επιτάχυνση της διάδρασή τους με το Δημόσιο Τομέα[1].  Ήδη η δοκιμαστική έκδοση έχει σημειώσει μεγάλη επιτυχία και πάνω από 500.000[2] ‘συζητήσεις’ έχουν λάβει χώρα μεταξύ πολιτών και του Ψηφιακού Βοηθού.

Παρόλο που προς το παρόν η χρήση της τεχνητής νοημοσύνης (TN) στο δημόσιο τομέα φαίνεται να είναι περιορισμένη στην χρήση του Ψηφιακού Βοηθού, πρόσφατη μελέτη του Εθνικού Κέντρου Κοινωνικών Ερευνών και το Εθνικού Κέντρου Έρευνας Φυσικών Επιστημών «Δημόκριτος»[3] για τη χρήση της Παραγωγικής Τεχνητής Νοημοσύνης στην Ελλάδα προβλέπει την αξιοποίηση εργαλείων ΤΝ επιτήρησης (proctoring tools) για τις εξετάσεις ανάδειξης επιτελικών στελεχών του Δημοσίου, για τη αυτοματοποιημένη παραγωγή αναφορών, αλλά και για τη βελτίωση των διαδικασιών λήψης αποφάσεων και την ανάλυση big data με στόχο την επιτάχυνση των διοικητικών εργασιών[4].

ΝΕΕΣ ΠΡΟΟΠΤΙΚΕΣ=ΝΕΕΣ ΥΠΟΧΡΕΩΣΕΙΣ

Η χρήση συστημάτων τεχνητής νοημοσύνης από τη δημόσια διοίκηση προϋποθέτει, πέρα από τις απαραίτητες αλλαγές διαδικασιών και τον ψηφιακό μετασχηματισμό της και τη συμμόρφωσή της με νέες νομοθεσίες. Ανάμεσα σε αυτές  περιλαμβάνεται και η Πράξη για την Τεχνητή Νοημοσύνη (AI Act), η οποία ψηφίστηκε στις  13 Μαρτίου από το Ευρωπαϊκό Kοινοβούλιο και αναμένεται να τεθεί πλήρως σε ισχύ σε περίπου δύο χρόνια από τώρα. Στο μεταξύ όμως, η Ελλάδα έχει ήδη θέσει σε εφαρμογή τον νόμο υπ’αριθ. 4691/2022[5] για τις  ‘Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών, ενίσχυση της ψηφιακής διακυβέρνησης και άλλες διατάξεις’.

ΟΙ ΒΑΣΙΚΕΣ ΥΠΟΧΡΕΩΣΕΙΣ ΤΟΥ ΕΛΛΗΝΙΚΟΥ ΔΗΜΟΣΙΟΥ

Σύμφωνα με το νόμο υπ’αριθ. 4691/2022, οι φορείς το δημοσίου τομέα οι οποίοι θέλουν να χρησιμοποιήσουν συστήματα ΤΝ, πρέπει να συμμορφωθούν με τις ακόλουθες υποχρεώσεις:

1. Οι φορείς του δημοσίου τομέα μπορούν να χρησιμοποιούν συστήματα ΤΝ κατά τη διαδικασία ή την υποστήριξη λήψης αποφάσεων ή έκδοση πράξεων μόνο εφόσον η χρήση αυτή προβλέπεται σε ειδική διάταξη νόμου (άρθρο 4 του ν.4961/2022).
2. Οι φορείς του δημοσίου τομέα οφείλουν πριν την χρήση ΤΝ να έχουν εκπονήσει αλγοριθμική εκτίμηση αντικτύπου, πέρα από την εκτίμηση αντικτύπου προσωπικών δεδομένων η οποία προβλέπεται στο άρθρο 33 του ΓΚΠΔ. Η αλγοριθμική εκτίμηση αντικτύπου θα αξιολογεί μεταξύ άλλων τον σκοπό για τον οποίο πρόκειται να χρησιμοποιηθεί το σύστημα ΤΝ στην συγκεκριμένη περίπτωση, το είδος ΤΝ που χρησιμοποιείται, τις κατηγορίες δεδομένων που αυτό θα συλλέγει καθώς και τους κινδύνους που συνεπάγεται η συγκεκριμένη χρήση συστήματος ΤΝ για τα δικαιώματα και τις ελευθερίες των ατόμων αλλά και των εταιριών-νομικών προσώπων(άρθρο 5 του ν.4961/2022)..
3. Οι φορείς του δημοσίου τομέα που χρησιμοποιούν συστήματα ΤΝ πρέπει να δημοσιεύουν πληροφορίες σχετικά με το πότε ξεκίνησε να χρησιμοποιείται το σύστημα ΤΝ, τις παραμέτρους λειτουργίας του, τα τεχνικά χαρακτηριστικά του συστήματος, τις κατηγορίες αποφάσεων ή πράξεων που εκδίδονται βάσει αυτού καθώς και το εάν διενεργήθηκε αλγοριθμική εκτίμηση αντικτύπου. Αυτές οι πληροφορίες θα πρέπει να παρέχονται σε κατανοητή και εύκολα προσβάσιμη μορφή για όλους, συμπεριλαμβανομένων των ατόμων με αναπηρία. Η νεοσύστατη Εθνική Αρχή Διαφάνειας (Ε.Α.Δ.) είναι αρμόδια για την εξέταση καταγγελιών ως προς την ανωτέρω υποχρέωση διαφάνειας (άρθρο 6 του ν.4961/2022)..
4. Κάθε φορέας του δημόσιου τομέα υποχρεούται να τηρεί μητρώο με όλα τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιεί, και το οποίο θα πρέπει να επικαιροποιεί μέχρι την 1η Μαρτίου κάθε έτους, ή όποτε θέτει σε λειτουργία νέο σύστημα ΤΝ (άρθρο 8 του ν.4961/2022).

Οι συγκεκριμένες υποχρεώσεις βρίσκονται σε πλήρη ισχύ από την 01.01. 2023.

ΠΡΑΞΗ ΓΙΑ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ: ΟΙ ΕΙΔΙΚΕΣ ΥΠΟΧΡΕΩΣΕΙΣ ΓΙΑ ΤΟ ΔΗΜΟΣΙΟ ΤΟΜΕΑ

Η Πράξη για την Τεχνητή Νοημοσύνη (ο ‘Κανονισμός΄), η οποία εγκρίθηκε από το Ευρωκοινοβούλιο και αναμένεται να τεθεί πλήρως σε ισχύ εντός διετίας, εισάγει επίσης ειδικές ρυθμίσεις για την χρήση συστημάτων ΤΝ από δημόσιους φορείς. Μεταξύ άλλων:

1. Απαγορεύεται η χρήση συστημάτων ΤΝ από δημόσιες αρχές ή για λογαριασμό τους για την αξιολόγηση ή την ταξινόμηση της αξιοπιστίας φυσικών προσώπων με βάση την κοινωνική τους συμπεριφορά ή την προσωπικότητα ή προβλεπόμενη συμπεριφορά τους, στο βαθμό που η κοινωνική βαθμολόγηση  οδηγεί σε δυσμενή μεταχείριση ορισμένων φυσικών προσώπων ή ομάδων σε κοινωνικά πλαίσια που δεν σχετίζονται με τα πλαίσια στα οποία συλλέχθηκαν αρχικά τα δεδομένα, ή οδηγεί σε δυσμενή μεταχείριση η οποία είναι αδικαιολόγητη ή δυσανάλογη προς την κοινωνική τους συμπεριφορά  (άρθρο 5 παρ.1(γ) του Κανονισμού)
2. Απαγορεύεται η χρήση απομακρυσμένων συστημάτων βιομετρικής ταυτοποίησης “σε πραγματικό χρόνο” σε δημόσιους χώρους για σκοπούς επιβολής του νόμου, εκτός εάν η χρήση αυτή είναι απολύτως αναγκαία για:
3. Την στοχευμένη αναζήτηση συγκεκριμένων πιθανών θυμάτων εγκλημάτων, συμπεριλαμβανομένων των εξαφανισμένων παιδιών,
4. την πρόληψη συγκεκριμένης και άμεσης απειλής για τη ζωή ή τη σωματική ασφάλεια φυσικών προσώπων ή τρομοκρατικής επίθεσης,
5. τον εντοπισμό, την ανίχνευση, την ταυτοποίηση ή τη δίωξη δράστη ή υπόπτου για ποινικό αδίκημα που εντάσσεται στο πεδίο εφαρμογής του ευρωπαϊκού εντάλματος σύλληψης: Σύμφωνα με την απόφαση-πλαίσιο του Συμβουλίου (2002/584/ΔΕΥ)

Σε κάθε περίπτωση, η ανωτέρω χρήση συστημάτων βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» επιτρέπεται μόνο για περιορισμένο χρόνο και σε περιορισμένη γεωγραφική έκταση, ενώ απαιτείται προηγούμενη ειδική άδεια από τις δικαστικές ή τις διοικητικές αρχές (άρθρο 5 παρ.1(δ) και παρ. 3 του Κανονισμού).

• Η υποχρέωση ενημέρωσης αλληλεπίδρασης φυσικών προσώπων με σύστημα ΤΝ αίρεται, σε περίπτωση που κατ’ εξουσιοδότηση νόμου αυτά χρησιμοποιούνται για τον εντοπισμό, πρόληψη ή διερεύνηση ποινικών αδικημάτων, εκτός εάν τα εν λόγω συστήματα είναι διαθέσιμα στους πολίτες για την καταγγελία ποινικού αδικήματος (άρθρο 52 παρ.1 του Κανονισμού).

---

[1] https://mindigital.gr/archives/5671

[2] https://www.gov.gr/

[3] https://foresight.gov.gr/studies/meleti-Generative-AI-Greece-2030-ta-endexomena-mellonta-tis-paragogikis-texnitis-noimosynis-stin-ellada/

[4] Generative AI- GREECE 2030: Τα ενδεχόμενα μέλλοντα  της Παραγωγικής Τεχνητής Νοημοσύνης στην Ελλάδα, EKKE, EKKEΦΕ, σελ 43.

[5] https://www.et.gr/SearchFek

Λέξεις / φράσεις – κλειδιά: Τεχνητή νοημοσύνη, διοίκηση, αλγοριθμική εκτίμηση αντικτύπου, δεδομένα, διαφάνεια, δημόσιος φορέας