Between Fear and Magic: Why Understanding Artificial Intelligence Is a Matter of Democracy

[Διαβάστε το άρθρο στα ελληνικά]

Artificial Intelligence (AI) is often presented through two extreme narratives, diametrically opposed yet equally misleading. On the one hand, it appears as a magical solution capable of replacing humans and offering solutions for everything. On the other hand, it is portrayed as an existential threat, capable of leading to social and economic collapse or even the extinction of humanity. Both approaches distance society from understanding and from a rational way of dealing with the issue.

Both mythologizing and doomsday scenarios create an incomplete picture of AI, either by overestimating its capabilities or by overemphasizing its risks. They thus overlook its true nature as a tool based on data, algorithms, computing power and human oversight. For this reason, developing AI literacy is a crucial skill we must cultivate. AI literacy is not just about the technical approach, but primarily about the ability to understand how AI systems operate, as well as their capabilities and limitations. According to the World Economic Forum, AI literacy encompasses skills in evaluation and responsible use, enabling citizens to view AI not as an opaque “black box,” but as a tool that we must approach critically.

The lack of AI literacy perpetuates fundamental distortions in public perception. On the one hand, many users do not deeply understand AI and uncritically trust its results, considering it infallible. On the other hand, there are also those who fully understand how it works but choose to spread extreme risk scenarios. In some cases, it serves their interests to shift responsibility downplaying the harmful impact of the addictive mechanisms enabled by AI. This contradiction between rhetoric and action distracts the public from immediate risks, such as algorithmic biases, misinformation, addictive practices and the opacity of systems. AI then ceases to be neutral. Systems may be designed to serve specific purposes and rely on data that incorporate social biases.

At the same time, AI facilitates the creation and dissemination of information, increasing the risk of misinformation, especially through technologies such as deepfakes. Citizens consume information simply because it is convincing, without having the tools to critically evaluate it. Recent court rulings in the U.S. have found that Facebook and YouTube can contribute to mental health harm in minors, highlighting the risks inherent in their design. Meta’s defense that responsibility for harm to a user’s mental health cannot be attributed to a single app, shows how some are attempting to shift the blame. However, as analysts have pointed out, these developments now mark a breaking point in the trust between the public and digital platforms and may open a new chapter in the accountability of tech giants.

Amid this rapidly evolving landscape, AI literacy becomes critical because it concerns not only the understanding of algorithms, but also the ability of citizens to critically evaluate both AI systems and the narratives of those who develop and deploy them. In the Netherlands, between approximately 2012 and 2021, over 20,000 parents were  wrongly flagged or investigated for fraud in relation to state childcare benefits. The Dutch tax authority used algorithmic systems to identify “suspicious” benefit claims. The result was that thousands of families were unfairly targeted, asked to repay excessive amounts, embroiled in administrative and legal disputes and, ultimately, driven to financial ruin. Most importantly, a disproportionate number of those labeled as fraudsters had an immigrant background. The lack of measures, institutional checks and balances and cooperation between the legislative, executive and judicial powers set the case on a path toward a political scandal, under the weight of which the government at the time resigned.

The experience from the childcare benefits scandal in the Netherlands shows that failures arise not only from ignorance of technology, but also from the uncritical delegation of authority to it. The algorithmic tools used to detect alleged fraud were treated as objective and reliable, leading to unfair accusations and serious financial consequences. At first glance, the revelation of the case reinforced the perception that artificial intelligence is uncontrollable and dangerous. Upon closer examination, however, we find that the problem was not the power of the technology, but the absence of necessary institutional safeguards, as pointed out by the Council of Europe’s Venice Commission, in a comprehensive review of the issue from the perspective of constitutional compliance.

When we grant technology regulatory roles without oversight, it acquires characteristics of unaccountable power. In this context, understanding artificial intelligence becomes critical, as only citizens who comprehend its limits and consequences can demand meaningful oversight against arbitrariness. What is proposed is the capacity for balance: to fear what one should, as one should and when one should. Aristotle, in the Nicomachean Ethics, defines courage as the mean between cowardice and recklessness. AI is a complex tool that reflects human choices, values and limitations. Consequently, the focus is not on technology itself, but on citizens’ ability to understand it. Because in a democracy, knowledge is not merely power; it is a prerequisite for freedom.

About the authors
Antonis Papakostas
PhD in Computer Science, ELIAMEP Research Associate; Former official of the European Commission

Androniki Tzomaka
Legal Expert; MSc in Computer Science; Advisor to the Special Secretary of Foresight, Presidency of the Government, Hellenic Republic. National Representative in the Financial Services Subgroup of the EU AI Board. She was a member of the CAI and, currently, is a member of the Steering Committee for New and Emerging Digital Technologies (CDNET) at the Council of Europe.

Androniki Tzomaka collaborated with IEEE experts, in the formulation of the Greek national position on Article 28 of the Digital Services Act (DSA) on the protection of minors, as a member of the national working group which contributed to the European Commission consultation. 

This article was originally published on liberal.gr.

Η Τεχνητή Νοημοσύνη (ΤΝ) συχνά παρουσιάζεται μέσα από δύο ακραία αφηγήματα, διαμετρικά αντίθετα αλλά εξίσου παραπλανητικά. Από τη μία, εμφανίζεται ως μαγική λύση που μπορεί να αντικαταστήσει τον άνθρωπο και να προσφέρει λύσεις για όλα. Από την άλλη, προβάλλεται ως υπαρξιακή απειλή, ικανή να οδηγήσει σε κοινωνική και οικονομική καταστροφή ή ακόμη και στην εξαφάνιση της ανθρωπότητας. Και οι δύο προσεγγίσεις απομακρύνουν την κοινωνία από την κατανόηση και την ψύχραιμη προσέγγιση.

Τόσο η μυθοποίηση όσο και η καταστροφολογία δημιουργούν μια ελλιπή εικόνα της ΤΝ, είτε υπερεκτιμώντας τις δυνατότητές της είτε υπερτονίζοντας τους κινδύνους της. Παραβλέπουν έτσι την πραγματική της φύση ως εργαλείου που εξαρτάται από δεδομένα, αλγορίθμους, υπολογιστική δύναμη και ανθρώπινη επίβλεψη. Για τον λόγο αυτό, η ανάπτυξη του «AI literacy», δηλαδή του γραμματισμού γύρω από την ΤΝ είναι κομβική δεξιότητα που οφείλουμε να καλλιεργήσουμε. Το AI literacy δεν αφορά μόνο την τεχνική προσέγγιση, αλλά κυρίως την ικανότητα κατανόησης της λειτουργίας των συστημάτων τεχνητής νοημοσύνης, των δυνατοτήτων και των περιορισμών τους. Σύμφωνα με το World Economic Forum, το AI literacy περιλαμβάνει δεξιότητες αξιολόγησης και υπεύθυνης χρήσης, επιτρέποντας στους πολίτες να μην θεωρούν την ΤΝ ένα αδιαφανές «μαύρο κουτί», αλλά ένα εργαλείο που οφείλουμε να αντιμετωπίζουμε κριτικά.

Η έλλειψη AI literacy συντηρεί βασικές στρεβλώσεις στη δημόσια αντίληψη. Από τη μία πλευρά πολλοί χρήστες δεν κατανοούν σε βάθος την ΤΝ και εμπιστεύονται άκριτα τα αποτελέσματά της, θεωρώντας την αλάνθαστη. Από την άλλη, υπάρχει η κατηγορία εκείνων που γνωρίζουν καλά πώς λειτουργεί, επιλέγουν όμως να διαδίδουν ακραία σενάρια κινδύνου. Άλλες φορές τους συμφέρει να μεταβιβάζουν την ευθύνη, υποτιμώντας τη βλαβερή επίδραση των εθιστικών μηχανισμών που λειτουργούν χάρη στην ΤΝ. Αυτή η αντίφαση μεταξύ ρητορικής και πράξης αποπροσανατολίζει το κοινό από άμεσους κινδύνους, όπως οι αλγοριθμικές προκαταλήψεις, η παραπληροφόρηση, οι εθιστικές πρακτικές και η αδιαφάνεια των συστημάτων. Η ΤΝ τότε παύει να είναι ουδέτερη. Τα συστήματα μπορεί να σχεδιάζονται εξυπηρετώντας σκοπιμότητες και να βασίζονται σε δεδομένα που ενσωματώνουν κοινωνικές προκαταλήψεις.

Παράλληλα η ΤΝ διευκολύνει την κατασκευή και διάδοση πληροφοριών, αυξάνοντας τον κίνδυνο παραπληροφόρησης, ειδικά μέσω τεχνολογιών όπως τα deepfakes. Οι πολίτες καταναλώνουν πληροφορία που απλώς είναι πειστική, χωρίς να έχουν τα εργαλεία να την αξιολογήσουν κριτικά. Πρόσφατες δικαστικές αποφάσεις στις ΗΠΑ έκριναν ότι οι πλατφόρμες Facebook και YouTube μπορούν να συμβάλουν σε βλάβες στην ψυχική υγεία ανηλίκων, αναδεικνύοντας την επικινδυνότητα του ίδιου του σχεδιασμού τους. Η υπερασπιστική γραμμή του Mark Zuckerberg ότι «η ευθύνη για τη βλάβη στην ψυχική υγεία του χρήστη δεν μπορεί να αποδοθεί σε μία μόνο εφαρμογή» δείχνει πώς επιχειρείται από κάποιους η μετατόπιση της ευθύνης. Ωστόσο, όπως επισημαίνεται από ερευνητή, οι εξελίξεις αυτές σηματοδοτούν πλέον ένα σημείο ρήξης στην εμπιστοσύνη μεταξύ κοινού και ψηφιακών πλατφορμών και ενδεχομένως ανοίγουν ένα νέο κεφάλαιο στην υποχρέωση λογοδοσίας των τεχνολογικών μεγιστάνων.

Μέσα σε αυτό το ρευστό τοπίο, το AI literacy καθίσταται κρίσιμο διότι δεν αφορά μόνο την κατανόηση των αλγορίθμων, αλλά την ικανότητα των πολιτών να αξιολογούν κριτικά τόσο τα συστήματα ΤΝ όσο και τα αφηγήματα αυτών που τα αναπτύσσουν και τα χρησιμοποιούν. Στην Ολλανδία, μεταξύ 2012 και 2021, πάνω από 20.000 γονείς κατηγορήθηκαν για απάτη κατά την απονομή κρατικών επιδομάτων για τη φύλαξη παιδιών. Η ολλανδική φορολογική αρχή χρησιμοποίησε αλγοριθμικά συστήματα για να εντοπίζει «ύποπτες» αιτήσεις επιδομάτων. Το αποτέλεσμα ήταν χιλιάδες οικογένειες να στοχοποιηθούν άδικα, να τους ζητηθεί να επιστρέψουν υπέρμετρα ποσά, να ανοίξουν διοικητικές και δικαστικές διαμάχες και τελικά να οδηγηθούν σε οικονομική καταστροφή. Το πιο σημαντικό είναι ότι ένας δυσανάλογος αριθμός όσων χαρακτηρίστηκαν ως απατεώνες, είχε μεταναστευτικό υπόβαθρο. Η ανεπάρκεια μέτρων, θεσμικών αντίβαρων και συνεργασίας μεταξύ της νομοθετικής, εκτελεστικής και δικαστικής εξουσίας έθεσαν την όλη υπόθεση σε τροχιά πολιτικού σκανδάλου, υπό το βάρος του οποίου παραιτήθηκε η τότε κυβέρνηση.

Η εμπειρία από το σκάνδαλο επιδομάτων στην Ολλανδία δείχνει ότι οι αποτυχίες δεν προκύπτουν μόνο από άγνοια της τεχνολογίας, αλλά και από την άκριτη εκχώρηση εξουσίας σε αυτή. Τα αλγοριθμικά εργαλεία που χρησιμοποιήθηκαν για τον εντοπισμό υποτιθέμενης απάτης, αντιμετωπίστηκαν ως αντικειμενικά και αξιόπιστα, προκαλώντας άδικες κατηγορίες και σοβαρές οικονομικές συνέπειες. Εκ πρώτης όψεως, η αποκάλυψη της υπόθεσης ενίσχυσε την αντίληψη ότι η τεχνητή νοημοσύνη είναι ανεξέλεγκτη και επικίνδυνη. Με μια πιο ψύχραιμη ανάγνωση όμως, διαπιστώνουμε ότι το πρόβλημα δεν ήταν η ισχύς της τεχνολογίας, αλλά η απουσία των αναγκαίων θεσμικών εγγυήσεων, όπως επεσήμανε η «Επιτροπή της Βενετίας» του Συμβουλίου της Ευρώπης σε μια συνολική εξέταση του ζητήματος από πλευράς συνταγματικής συμμόρφωσης.

Η τεχνολογία, όταν της παραχωρούμε ρυθμιστικούς ρόλους ανεξέλεγκτα, αποκτά χαρακτηριστικά εξουσίας χωρίς λογοδοσία. Σε αυτό το πλαίσιο, η κατανόηση της τεχνητής νοημοσύνης καθίσταται κρίσιμη, καθώς μόνο πολίτες που αντιλαμβάνονται τα όρια και τις επιπτώσεις της, μπορούν να απαιτήσουν ουσιαστικό έλεγχο έναντι της αυθαιρεσίας. Αυτό που προτείνεται είναι η ικανότητα στάθμισης: να φοβάται κανείς όσα πρέπει, όπως πρέπει και όταν πρέπει. Ο Αριστοτέλης στα Ηθικά Νικομάχεια ορίζει το θάρρος ως μεσότητα ανάμεσα στον υπερβολικό φόβο και το απερίσκεπτο θράσος. Η ΤΝ αποτελεί ένα σύνθετο εργαλείο που αντανακλά ανθρώπινες επιλογές, αξίες και περιορισμούς. Συνεπώς το επίκεντρο δεν είναι η τεχνολογία καθεαυτή, αλλά η ικανότητα των πολιτών να την κατανοούν. Γιατί σε μια δημοκρατία, η γνώση δεν είναι απλώς δύναμη, είναι προϋπόθεση ελευθερίας.