Έρχεται σύντομα η ολοκληρωμένη ρύθμιση της Τεχνητής Νοημοσύνης στην ΕΕ

Ο πρώτος ολοκληρωμένος νόμος για την Τεχνητή Νοημοσύνη στον κόσμο εισέρχεται στις τελευταίες ίσως εβδομάδες εντατικών διαπραγματεύσεων. Ωστόσο, τα θεσμικά όργανα της ΕΕ πρέπει ακόμη να ξεκαθαρίσουν την προσέγγισή τους για τα πιο ισχυρά μοντέλα θεμελίωσης και τις διατάξεις στους τομείς επιβολής του νόμου.

Οι διοργανικές διαπραγματεύσεις -ή τριμερής διάλογος όπως είναι γνωστός στην ορολογία της ΕΕ- ξεκίνησαν το βράδυ της Τρίτης (24 Οκτωβρίου) και διήρκεσαν μέχρι τις πρώτες πρωινές ώρες της Τετάρτης. Ωστόσο, δεν βγήκε λευκός καπνός από τη συνάντηση του Συμβουλίου, της Κομισιόν και του Ευρωκοινοβουλίου.

Οι υπεύθυνοι χάραξης πολιτικής της ΕΕ συμφώνησαν στις διατάξεις σχετικά με την ταξινόμηση των εφαρμογών τεχνητής νοημοσύνης υψηλού κινδύνου και παρείχαν γενικές οδηγίες σχετικά με την αντιμετώπιση των ισχυρών μοντέλων θεμελίωσης και το ποιος θα πρέπει να τα εποπτεύει. Ωστόσο, δεν άγγιξαν καθόλου το θέμα που αφορά στις απαγορεύσεις και την επιβολή του νόμου.

Όλα τα βλέμματα στρέφονται τώρα στον επόμενο τριμερή διάλογο στις 6 Δεκεμβρίου, όπου αναμένεται να επιτευχθεί πολιτική συμφωνία, χωρίς τίποτα όμως να είναι σίγουρο. Εν τω μεταξύ, έχουν προγραμματιστεί εννέα τεχνικές συνεδριάσεις για την διαμόρφωση του κειμένου σχετικά με ορισμένες από τις πιο σύνθετες πτυχές και επιπτώσεις του νόμου για την τεχνητή νοημοσύνη.

Κανόνες ταξινόμησης για συστήματα ΤΝ υψηλού κινδύνου

Ο νόμος για την ΤΝ ακολουθεί μια προσέγγιση με βάση τον κίνδυνο, σύμφωνα με την οποία τα μοντέλα ΤΝ που μπορούν να αποτελέσουν σημαντικό κίνδυνο για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα των ανθρώπων πρέπει να συμμορφώνονται με αυστηρές υποχρεώσεις, όπως η διαχείριση κινδύνου και η διακυβέρνηση δεδομένων.

Στην αρχική πρόταση, όλες οι λύσεις ΤΝ που εμπίπτουν σε έναν προκαθορισμένο κατάλογο κρίσιμων περιπτώσεων χρήσης ταξινομούνταν ως υψηλού κινδύνου. Ωστόσο, κατά τον προηγούμενο τριμερή διάλογο στις 2 Οκτωβρίου, τέθηκε επί τάπητος ένα πιθανό σύστημα φίλτρων, το οποίο θα επέτρεπε στους προγραμματιστές ΤΝ να εξαιρεθούν από αυτό το αυστηρότερο καθεστώς.

Τα κριτήρια υπέστησαν σημαντική τελειοποίηση και αρνητική νομική αξιολόγηση από το γραφείο του Ευρωπαϊκού Κοινοβουλίου. Παρόλα αυτά, το κείμενο που συμφωνήθηκε είναι κυρίως σύμφωνο με αυτό που είχε αναφέρει προηγουμένως το Euractiv.

Ο μόνος όρος εξαίρεσης που τροποποιήθηκε είναι αυτός που αναφέρεται στον εντοπισμό αποκλίσεων από τα πρότυπα λήψης αποφάσεων, με την διευκρίνιση ότι το σύστημα τεχνητής νοημοσύνης δεν πρέπει να έχει «σκοπό να αντικαταστήσει ή να επηρεάσει την προηγουμένως ολοκληρωμένη ανθρώπινη αξιολόγηση, χωρίς την κατάλληλη ανθρώπινη επανεξέταση».

Στο κείμενο που προέκυψε από τον τελευταίο τριμερή διάλογο, η Επιτροπή έχει αναλάβει να καταρτίσει έναν ολοκληρωμένο κατάλογο πρακτικών παραδειγμάτων περιπτώσεων χρήσης υψηλού και μη υψηλού κινδύνου. Οι προϋποθέσεις για την τροποποίηση των όρων εξαίρεσης από την Επιτροπή εξακολουθούν να βελτιώνονται από τους γλωσσολόγους-δικηγόρους.

Σε ένα σχέδιο που είδε το Euractiv, η Επιτροπή θα μπορεί να προσθέσει νέα φίλτρα μόνο όταν υπάρχουν συγκεκριμένα και αξιόπιστα στοιχεία ότι τα συστήματα τεχνητής νοημοσύνης εμπίπτουν στην κατηγορία υψηλού κινδύνου χωρίς να αποτελούν σημαντικό κίνδυνο για τους ανθρώπους.

Αντίθετα, η Κομισιόν θα μπορεί να διαγράψει τα κριτήρια μόνο εάν είναι απαραίτητο να διατηρηθεί το ίδιο επίπεδο προστασίας στην ΕΕ.

Μοντέλα θεμελίωσης

Η ραγδαία εξάπλωση του ChatGPT, το chatbot που τροφοδοτείται από τα GPT-3.5 και GPT-4 του OpenAI, διατάραξε τις διαπραγματεύσεις για τον νόμο για την τεχνητή νοημοσύνη, αναγκάζοντας τους υπεύθυνους χάραξης πολιτικής να σκεφτούν πώς να αντιμετωπίσουν αυτά τα ισχυρά μοντέλα.

Την περασμένη εβδομάδα, το Euractiv ανέφερε ότι η προσέγγιση βασίζεται σε διάφορα επίπεδα. Η ιδέα είναι να υπάρξουν οριζόντιες υποχρεώσεις για όλα τα μοντέλα θεμελίωσης, δηλαδή διαφάνεια και υποστήριξη προς τους μεταγενέστερους οικονομικούς φορείς για τη συμμόρφωση με τον κανονισμό ΤΝ.

Η κλιμακωτή προσέγγιση φαίνεται να έχει ευρεία υποστήριξη, αλλά το κύριο ερώτημα είναι πώς θα οριστεί η ανώτατη βαθμίδα των «πολύ ικανών» ιδρυτικών μοντέλων, όπως το GPT-4, τα οποία θα υπόκεινται σε εκ των προτέρων έλεγχο και μέτρα μετριασμού του κινδύνου.

Η ορολογία θα μπορούσε να μετατραπεί σε μοντέλα «υψηλού αντίκτυπου» για να τονιστεί η εστίαση στους συστημικούς κινδύνους που μπορούν να προκαλέσουν αυτά τα μοντέλα. Η γενική συμφωνία είναι να αναπτυχθούν διάφορα κριτήρια βάσει των οποίων ένα μοντέλο θεμελίωσης θα μπορούσε να θεωρηθεί «υψηλού αντίκτυπου».

Τα πιθανά κριτήρια που έχουν διατυπωθεί αφορούν την υπολογιστική ισχύ, τον όγκο των δεδομένων εκπαίδευσης και τους οικονομικούς πόρους των παρόχων ΤΝ, αλλά οι ανησυχίες αφορούν κυρίως το πώς θα καταστεί αυτή η προσέγγιση ανθεκτική στο μέλλον για μια αγορά που αλλάζει με ιλιγγιώδη ταχύτητα.

Ερευνητές από κορυφαία πανεπιστήμια όπως το Στάνφορντ παρέχουν επίσης συμβουλές για το θέμα. Τις επόμενες ημέρες, οι διαπραγματευτές της ΕΕ αναμένεται να επεξεργαστούν νέα σχέδια με σκοπό να γίνουν πιο κατανοητά.

Όσον αφορά τη διακυβέρνηση, υπάρχει αυξανόμενη συναίνεση ότι, όπως και στον νόμο για τις ψηφιακές υπηρεσίες (DSA), η επιβολή των μοντέλων ΤΝ που ενέχουν συστημικούς κινδύνους θα πρέπει να είναι συγκεντρωτική.

Αυτό θα είναι ένα από τα κύρια καθήκοντα του Γραφείου Τεχνητής Νοημοσύνης, το οποίο θα υπάγεται στην Επιτροπή αλλά θα διαθέτει «λειτουργική ανεξαρτησία». Επίσης, ακολουθώντας την DSA, η Επιτροπή πρότεινε την εισαγωγή διαχειριστικής αμοιβής για τη χρηματοδότηση των νέων απαιτήσεων στελέχωσης.

Ωστόσο, οι ευρωβουλευτές είναι επιφυλακτικοί σχετικά με το τέλος διαχείρισης και δεν θεωρούν ότι ο παραλληλισμός με την DSA, η οποία επικεντρώνεται στις υπηρεσίες – ενώ η πράξη AI ακολουθεί τη νομοθεσία για την ασφάλεια των προϊόντων – είναι εφαρμόσιμος στην προκειμένη περίπτωση.

Απαγορεύσεις και επιβολή του νόμου

Το κεφάλαιο σχετικά με το ποιες εφαρμογές ΤΝ θα πρέπει να απαγορεύονται και ποιες εξαιρέσεις θα πρέπει να αφεθούν στις υπηρεσίες επιβολής του νόμου είναι το σημείο εκείνο όπου οι απόψεις των λρατών μελών και των ευρωβουλευτών διίστανται και μπορεί να εξελιχθεί σε σοββαρό εμπόδιο για την διαμόρφωση τελικής συμφωνίας, καθώς και τα δύο θεσμικά όργανα είναι εξαιρετικά άκαμπτα στις θέσεις τους.

Το μόνο πράγμα που προέκυψε με σαφήνεια από τον τελευταίο τριμερή διάλογο ήταν ότι οι διαπραγματευτές εξετάζουν διάφορες πτυχές για να διαμορφώσουν μια συμφωνία-πακέτο που θα συνδυάζει τις απαγορεύσεις, τις εξαιρέσεις για την επιβολή του νόμου, την εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα και τις περιβαλλοντικές διατάξεις.

Πηγή: euractiv.gr