P. Jougleux, Ευρωπαϊκό δίκαιο της τεχνητής νοημοσύνης, 2025

Πίνακας περιεχομένων

Πρόλογος

Εισαγωγικό κεφάλαιο

1.1. Εισαγωγικές παρατηρήσεις

1.2. Η άνθηση της ΤΝ: ιστορική διαδρομή

1.2.1. Οι πρωτοπόροι της ΤΝ

1.2.2. Η αργή ανάπτυξη και η ξαφνική έκρηξη της ΤΝ

1.2.3. Η επανάσταση της παραγωγικής ΤΝ

1.2.3.1. Η εποχή της μαζικής τροφοδότησης μοντέλων ΤΝ

1.2.3.2. Σημερινά συστήματα ΤΝ και περιβαλλοντικό ζήτημα

1.2.3.3. Η οικονομική βιωσιμότητα του μοντέλου ελεύθερης πρόσβασης

1.3. Η ΤΝ στην κοινωνία και στο δίκαιο

1.3.1. Το δίκαιο στην ΤΝ: η τομεακή προσέγγιση

1.3.2. Το δίκαιο της ΤΝ και παρουσίαση της δομής της παρούσας μελέτης

Κεφάλαιο 2. Φιλοσοφία και γενικές αρχές του Κανονισμού ΤΝ

2.1. Η υιοθέτηση του Κανονισμού: ένα μανιφέστο

2.1.1. Γενική φιλοσοφία του Κανονισμού

2.1.1.1. Μια πολιτική πρωτοβουλία

2.1.1.2. Το αντικείμενο του Κανονισμού και ο ορισμός της ΤΝ

2.1.1.3. Τα όρια της αρμοδιότητας

2.1.1.4. Η εξωεδαφική εμβέλεια του Κανονισμού και η προβληματική του Ευρωπαϊκού ψηφιακού ιμπεριαλισμού

2.1.2. Η αλληλεπίδραση μεταξύ της Σύμβασης-Πλαισίου για την ΤΝ και τα ανθρώπινα δικαιώματα και του Κανονισμού

2.1.2.1. Γενική παρουσίασης της Σύμβασης

2.1.2.2. Η επιρροή της Σύμβασης στον Κανονισμό

2.1.3. Τα ενδιαφερόμενα μέρη

2.1.3.1. Πάροχοι συστημάτων ΤΝ

2.1.3.2. Τρίτο μέρος που συμμετέχει στην αξιακή αλυσίδα της ΤΝ

2.1.3.3. Φορείς εφαρμογής και τελικοί χρήστες

2.1.3.4. Ο τελικός χρήστης και η προστασία ευάλωτων ατόμων

2.1.4. Η διακυβέρνηση των συστημάτων ΤΝ

2.1.4.1. Η Υπηρεσία ΤΝ, το Συμβούλιο ΤΝ και η Επιτροπή

2.1.4.2. Εθνικές αρμόδιες αρχές

2.1.4.3. Μηχανισμοί διακυβέρνησης στον Κανονισμό

2.1.5. Η επιβολή του Κανονισμού

2.1.5.1. Οι εξουσίες επίβλεψης των αρχών

2.1.5.2. Το δικαίωμα καταγγελίας κάθε ενδιαφερομένου

2.1.5.3. Οι κυρώσεις

2.2. Η εκπαίδευση των συστημάτων ΤΝ

2.2.1. Η θέσπιση εθνικών «ρυθμιστικών δοκιμαστηρίων»

2.2.2. Η δοκιμή συστημάτων ΤΝ υψηλού κινδύνου σε πραγματικές συνθήκες

2.2.3. Ενωσιακές δομές υποστήριξης δοκιμών ΤΝ

2.3. Η προσέγγιση βάσει κινδύνου

2.3.1. Η φιλοσοφία της ταξινόμησης των συστημάτων ΤΝ βάσει κινδύνου

2.3.2. Η ΤΝ υψηλού κινδύνου

2.3.2.1. Μια συνδυαστική προσέγγιση τεκμηρίων

2.3.2.2. ΤΝ και βιομετρικά στοιχεία

2.3.2.3. Υποδομές ζωτικής σημασίας

2.3.2.4. Η ΤΝ στην εκπαίδευση

2.3.2.5. Η ΤΝ στο εργασιακό περιβάλλον

2.3.2.6. ΤΝ και βασικές υπηρεσίες

2.3.2.7. ΤΝ και επιβολή του νόμου

2.3.2.8. ΤΝ και διαχείριση της μετανάστευσης

2.3.2.9. ΤΝ και απονομή δικαιοσύνης

2.3.2.10. ΤΝ και εκλογική διαδικασία

2.3.3. Άλλες μορφές ΤΝ ειδικού σκοπού

2.3.3.1. Η ΤΝ απαγορευμένου κινδύνου

2.3.3.2. Η ΤΝ περιορισμένου κινδύνου

2.3.4. Η ΤΝ γενικού σκοπού

2.3.4.1. Ο ορισμός της ΤΝ γενικού σκοπού

2.3.4.2. Η ταξινόμηση του μοντέλου ΤΝ γενικού σκοπού στην κατηγορία της ΤΝ «με συστημικό κίνδυνο»

Κεφάλαιο 3. Η κατηγορίες ΤΝ και η ρύθμισή τους στον Κανονισμό ΤΝ

3.1. Απαγορευμένες πρακτικές ΤΝ

3.1.1. Επισκόπηση του άρθρου 5: Απαγορευμένες πρακτικές TN

3.1.1.1. Η χειραγώγηση ανθρώπου μέσω ΤΝ

3.1.1.2. Η εκμετάλλευση αδυναμίας μέσω ΤΝ

3.1.1.3. Η κοινωνική βαθμολογία

3.1.1.4. Η προδραστική αστυνόμευση

3.1.1.5. Η ΤΝ αναγνώρισης προσώπου μέσω της μη στοχευμένης εξαγωγής εικόνων προσώπου

3.1.1.6. Η συναγωγή συναισθημάτων στον χώρο εργασίας και στην εκπαίδευση

3.1.1.7. Η χρήση συστημάτων βιομετρικής κατηγοριοποίησης για εξαγωγή ευαίσθητων προσωπικών δεδομένων

3.1.2. Η ειδική περίπτωση της χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο»

3.1.2.1. Η απαγόρευση και η διάκριση μεταξύ ταυτοποίησης σε πραγματικό χρόνο και ύστερο χρόνο

3.1.2.2. Εξαιρέσεις από την απαγόρευση

3.1.3. Κριτική αξιολόγηση της λίστας απαγορεύσεων ΤΝ

3.2. Συστήματα ΤΝ υψηλού κινδύνου: τυπικές υποχρεώσεις

3.2.1. Υποχρεώσεις πριν από τη διάθεση στην αγορά

3.2.1.1. Η ρύθμιση των δεδομένων εκπαίδευσης

3.2.1.2. Ο τεχνικός φάκελος

3.2.1.3. Η υποχρεωτική δοκιμή της ΤΝ

3.2.2. Η στιγμή της διάθεσης στην αγορά: αξιολόγηση της συμμόρφωσης και η εγγραφή της ΤΝ στην βάση δεδομένων

3.2.2.1. Οι διαδικασίες αξιολόγησης της συμμόρφωσης

3.2.2.2. Η συμμετοχή των εθνικών αρχών στην αξιολόγηση της συμμόρφωσης

3.2.2.3. Η εκτίμηση επιπτώσεων των συστημάτων ΤΝ υψηλού κινδύνου στα θεμελιώδη δικαιώματα

3.2.3. Υποχρεώσεις μετά την διάθεση στην αγορά

3.2.3.1. Η θέσπιση του συστήματος διαχείρισης κινδύνου και του συστήματος διαχείρισης ποιότητας

3.2.3.2. Τήρηση αρχείων και εγγράφων τεκμηρίωσης

3.2.3.3. Άλλες τυπικές υποχρεώσεις

3.3. Υποχρεώσεις διακυβέρνησης των φορέων εκμετάλλευσης ΤΝ υψηλού κινδύνου

3.3.1. Η ακρίβεια και η ασφάλεια της ΤΝ

3.3.2. Η επίβλεψη της λειτουργίας της ΤΝ

3.3.2.1. Η παρακολούθηση του συστήματος

3.3.2.2. Η αναφορά σοβαρών περιστατικών

3.3.2.3. Το καθήκον υιοθέτησης διορθωτικών μέτρων και το καθήκον απόσυρσης, απενεργοποίησης ή ανάκλησης δυσλειτουργικής ΤΝ

3.3.2.4. Η ανθρώπινη εποπτεία

3.3.3. Διαφάνεια και πληροφόρηση των φορέων εφαρμογής

3.3.4. Κατάταξη ευθυνών μεταξύ των φορέων εκμετάλλευσης

3.3.4.1. Ευθύνες κατά μήκος της αξιακής αλυσίδας της ΤΝ

3.3.4.2. Ο κατασκευαστής προϊόντος όπου ενσωματώνεται ΤΝ

3.3.4.3. Ο εξουσιοδοτημένος αντιπρόσωπος παρόχων

3.3.4.4. Ο εισαγωγέας και ο διανομέας

3.4. Η υποχρέωση διαφάνειας όλων των συστημάτων ΤΝ

3.4.1. Η υποχρέωση γνωστοποίησης της αλληλεπίδρασης ΤΝ

3.4.1.1. Η διαφάνεια ως κανόνας

3.4.1.2. Εξαιρέσεις από την υποχρέωση γνωστοποίησης

3.4.2. Η ταυτοποίηση συνθετικού περιεχομένου

3.4.3. Οι υποχρεώσεις διαφάνειας του φορέα εφαρμογής

3.4.3.1. Διαφάνεια στην βιομετρική κατηγοριοποίηση και αναγνώριση συναισθημάτων

3.4.3.2. Αποκάλυψη για deepfakes και δημόσιες πληροφορίες που δημιουργούνται από ΤΝ

3.4.3.3. Το καθήκον διαφάνειας των δημοσιογράφων

3.5. Τα μοντέλα ΤΝ γενικού σκοπού

3.5.1. Υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικού σκοπού

3.5.1.1. Οι τυπικές υποχρέωσης τεκμηρίωσης

3.5.1.2. ΤΝ γενικού σκοπού και πνευματική ιδιοκτησία

3.5.1.3. ΤΝ γενικού σκοπού εκτός ΕΕ

3.5.2. Νομικό πλαίσιο της ΤΝ συστημικού κινδύνου

3.5.3. Ο σύνδεσμος του Κανονισμού με την Πράξη για τις ψηφιακές υπηρεσίες

3.5.3.1. Η εφαρμογή του καθεστώτος του παρόχου επιγραμμικής πλατφόρμας στην ΤΝ

3.5.3.2. Η επιρροή της Πράξης στον Κανονισμό

3.5.3.3. Γενική επισκόπηση των καθηκόντων του παρόχου συστήματος ΤΝ/επιγραμμικής πλατφόρμας στην Πράξη

Κεφάλαιο 4.

Η τεχνητή νοημοσύνη και η ευθύνη για ελαττωματικό προϊόν

4.1. Ιστορική προσέγγιση της αστικής ευθύνης που σχετίζεται με την χρήση πράγματος

4.1.1. Η άνθηση ενός καθεστώτος ευθύνης μέσω της παρέμβασης πράγματος στην Ευρώπη

4.1.2. Η υιοθέτηση της Οδηγίας για τα ελαττωματικά προϊόντα

4.1.3. Η αναθεώρηση του 2024 και η αναφορά σε ΤΝ

4.1.4. Η αποτυχημένη προσπάθεια υιοθέτησης της Οδηγίας περί ευθύνης για την ΤΝ

4.2. Το καθεστώς αντικειμενικής ευθύνης για την δυσλειτουργία της ΤΝ

4.2.1. Η ΤΝ ως προϊόν

4.2.2. Η εξαίρεση των λογισμικών ανοιχτού κώδικα

4.2.3. Η ελαττωματικότητα της ΤΝ

4.2.3.1. Φιλοσοφία και διαδικασία αξιολόγησης της ασφάλειας μιας ΤΝ

4.2.3.2. Ελαττωματικότητα, σχεδιασμός και διαφάνεια της ΤΝ

4.2.3.3. Ελαττωματικότητα και συνεχής εκμάθηση

4.2.3.4. Ελαττωματικότητα και διασύνδεση

4.2.3.5. Ελαττωματικότητα και έλεγχος επί του προϊόντος

4.2.3.6. Ελαττωματικότητα και κυβερνοασφάλεια

4.3. Εφαρμογή του καθεστώτος ευθύνης

4.3.1.  Το τεκμήριο ελαττωματικότητας της ΤΝ

4.3.2. Αποκάλυψη αποδεικτικών στοιχείων

4.3.3. Απαλλαγή από την ευθύνη και μείωση της ευθύνης

4.4. Ο καθορισμός του αδικοπραγούντα

4.4.1. Η αλυσίδα ευθύνης εντός της Οδηγίας

4.4.1.1. Η ανάληψη ευθύνης από τους οικονομικούς φορείς

4.4.1.2. Η έννοια της ουσιώδους τροποποίησης

4.4.2. Η ευθύνη εκτός πεδίου εφαρμογής της Οδηγίας

4.4.2.1. Το ψηφιδωτό εθνικών καθεστώτων

4.4.2.2. Η ΤΝ ως αντιπρόσωπος

Κεφάλαιο 5.

Η τεχνητή νοημοσύνη και η προστασία προσωπικών δεδομένων

5.1. Η ρύθμιση της επεξεργασίας προσωπικών δεδομένων στον Κανονισμό ΤΝ

5.1.1. Η επεξεργασία προσωπικών δεδομένων στο πλαίσιο των ρυθμιστικών δοκιμαστηρίων ΤΝ

5.1.1.1. Ο ρόλος της εθνικής αρχής προστασίας προσωπικών δεδομένων στην εποπτεία των δοκιμαστηρίων

5.1.1.2. Το άρθρο 59 του Κανονισμού ΤΝ

5.1.2. Ο Κανονισμός ΤΝ ως lex specialis του δικαίου προστασίας προσωπικών δεδομένων

5.1.2.1. Η επεξεργασία ευαίσθητων προσωπικών δεδομένων από τους παρόχους ΤΝ

5.1.2.2. Προσωπικά δεδομένα και απαγορευμένες πρακτικές ΤΝ

5.2. Η ρύθμιση της επεξεργασίας προσωπικών δεδομένων από ΤΝ στον ΓΚΠΔ

5.2.1. Το άρθρο 22 ΓΚΠΔ και η αυτοματοποιημένη λήψη αποφάσεων

5.2.1.1. Η εφαρμογή του άρθρου 22 στην ΤΝ

5.2.1.2. Νομολογική επισκόπηση του δικαίου των αυτοματοποιημένων λήψεων αποφάσεων

5.2.2. Ο σχεδιασμός και η λειτουργία της ΤΝ από την σκοπιά του ΓΚΠΔ

5.2.2.1. Μοντέλα ΤΝ: ο σχεδιασμός της ΤΝ και η ανωνυμία

5.2.2.2. Η πρακτική λειτουργία της ΤΝ ως μορφή επεξεργασίας

Κεφάλαιο 6.

Η τεχνητή νοημοσύνη και η πνευματική ιδιοκτησία

6.1. Η τροφοδότηση στην ΤΝ προστατευόμενων έργων

6.1.1. Η νομιμοποίηση της χρήσης προστατευόμενων έργων ως δεδομένα εισόδου στην Οδηγία 2019/790

6.1.1.1. Η εκπαίδευση της ΤΝ ως μορφή αναπαραγωγής

6.1.1.2. Η εξαίρεση της εξόρυξης δεδομένων

6.1.2. Η σύγχρονη αμφισβήτηση της εξαίρεσης της εξόρυξης δεδομένων και η επιβολή υποχρέωσης διαφάνειας

6.1.2.1. Οι επικλήσεις σε μεταρρύθμιση

6.1.2.2. Ο Κανονισμός ΤΝ και η πνευματική ιδιοκτησία

6.2. Η προστασία έργων ΤΝ από την πνευματική ιδιοκτησία

6.2.1. Νομικό πλαίσιο σχετικά με τις προϋποθέσεις προστασίας ενός έργου και η εφαρμογή τους στα συστήματα ΤΝ

6.2.1.1. Πρωτοτυπία και αντικειμενική υπόσταση

6.2.1.2. Η διάκριση ιδέας/μορφής

6.2.1.3. Ανθρώπινη παρέμβαση στην δημιουργία ως κριτήριο της προστασίας

6.2.2. Το περιεχόμενο με βοήθεια της ΤΝ και η έννοια της διανοητικής συμβολής

6.2.2.1. Πνευματική και τεχνική παρέμβαση

6.2.2.2. Το τεκμήριο πατρότητας

6.2.2.3. Η ύπαρξη συγγενικών δικαιωμάτων

6.3. Η παραβίαση πνευματικής ιδιοκτησίας μέσω ΤΝ

6.3.1. Η έννοια της αντιγραφής με διασκευή

6.3.1.1. Η ευθύνη του χρήστη για την εκμετάλλευση των δεδομένων εξόδου

6.3.1.2. Το ζήτημα της ευθύνης του παρόχου ΤΝ ή του οικονομικού φορέα

6.3.2. Η εξαίρεση της αναπαραγωγής για ιδιωτικό σκοπό

Κεφάλαιο 7.

Η προστασία του συστήματος τεχνητής νοημοσύνης

7.1. Η αστική προστασία του συστήματος τεχνητής νοημοσύνης: το σύστημα ως πληροφοριακό αγαθό

7.1.1. Η προστασία της ΤΝ ως λογισμικό

7.1.1.1. Η ένταξη της προστασίας του λογισμικού στο δίκαιο πνευματικής ιδιοκτησίας

7.1.1.2. Ο νομολογικός περιορισμός της εμβέλειας της προστασίας

7.1.2. Η προστασία της ΤΝ ως βάση δεδομένων

7.1.2.1. Γενική επισκόπηση της προστασίας και η προβληματική της ανεξάρτητης πρόσβασης στα δεδομένα

7.1.2.2. Η εκπαίδευση της ΤΝ ως ουσιώδη επένδυση

7.1.2.3. Η προβληματική της απόσταξης («distillation»)

7.1.3. Η προστασία της ΤΝ ως εμπορικό απόρρητο

7.2. Η ποινική προστασία του συστήματος τεχνητής νοημοσύνης: η τεχνητή νοημοσύνη ως πληροφοριακό σύστημα

7.2.1. Οι αναγνωρισμένες μορφές κυβερνοεπιθέσεων

7.2.1.1. Η ΤΝ ως πληροφοριακό σύστημα

7.2.1.2. Ταξινόμηση και εφαρμογή στην ΤΝ των κυβερνοεπιθέσεων

7.2.2. Νέες μορφές κυβερνοεπιθέσεων κατά συστημάτων ΤΝ

7.2.2.1. Η δηλητηρίαση δεδομένων και η αντιπαραθετική μηχανική μάθηση

7.2.2.2. Η παγίδευση ΤΝ

Συμπεράσματα

Βιβλιογραφία

9.1. Ελληνική βιβλιογραφία

9.1.1. Μονογραφίες στα Ελληνικά

9.2. Άρθρα στα Ελληνικά

9.3. Ξένη βιβλιογραφία

9.3.1. Μονογραφίες στα Αγγλικά

9.3.2. Άρθρα στα Αγγλικά

Ευρετήριο