Die Grenzschutzagentur Frontex soll mit Drohnen, biometrischen Daten, KI-gesteuerten Risikoanalysen sowie Lügendetektoren umfassend aufgestockt werden.

<p>Die EU will künftig anhand von biometrischen Daten, Drohnen und selbstlernenden Systemen mit künstlicher Intelligenz (KI) ein flächendeckendes Überwachungsnetz gegen Migration schaffen. Bei einem Treffen der EU-Grenzagentur Frontex mit Lobbyisten waren nebst Waffenherstellern und anderen Vertretern auch Unternehmen aus der Überwachungsbranche anwesend.</p>
<p>Hintergrund ist der im vergangenen Jahr beschlossene "Migrationspakt", der vorsieht, Frontex auch technisch weitgehend auszubauen. Gerade im Umgang mit Migration an den Außengrenzen hat die Union ein Spielfeld für die praktische Umsetzung neuartiger Überwachungsmethoden entdeckt: So setzt Frontex schon länger auf Systeme, die von Algorithmen gesteuert werden. Ihr Ziel ist, menschliche Entscheidungsträger zu ersetzen oder diesen eine technologieunterstützte Hilfestellung zu liefern.</p>
<h3>Predictive Policing</h3>
<p>Migranten werden dabei überwacht, bevor sie überhaupt an Land gehen. Frontex kooperiert hierfür seit Jahren mit der israelischen Firma Windward. Das Unternehmen, das unter anderem dem ehemaligen CIA-Direktor David Petraeus gehört, trackt Boote im Mittelmeer, indem es Positionsdaten und Wetterinformationen kombiniert. Mit weiteren Daten über Schifffahrtsunternehmen, Besitzer von Schiffen und Satellitenbildern werden als verdächtig erkannte Schiffe für die Mitarbeiter der Behörde gesondert gekennzeichnet.</p>
<p>Grundlage für die Berechnung sind einerseits das Register der Internationalen Seeschifffahrtsorganisation, andererseits gibt das Unternehmen an, eigene Daten zu rund 400.000 Booten zu verwerten. Auch frei verfügbare Daten aus dem Netz würden zum Abgleich zugezogen. Die Informationen werden gemeinsam mit anderer Software verarbeitet. Auf deren Basis versendet die Agentur Berichte an die EU-Kommission, den EU-Rat und andere Grenzbehörden. Hierfür wird das Überwachungsnetzwerk Eurosur angewendet, das von Frontex errichtet wurde.</p>
<h3>Biometrie und Drohnen</h3>
<p>Künftig sollen zusätzlich große Drohnen und unbemannte Zeppeline Frontex bei der Überwachung am Mittelmeer unterstützen. Weiters sollen die Luftfahrzeuge der Behörde mit unterschiedlichsten Sensoren ausgestattet werden, um Migranten zu erkennen, wenn sie in schwer durchsuchbaren Umgebungen unterwegs sind – etwa in Wäldern, aber auch nachts oder bei widrigen Wetterbedingungen. An dem Projekt, das den Namen "Foldout" trägt, arbeitet auch das Austrian Institute of Technology (AIT) in Wien.</p>
<p>Zudem wird Frontex die Verwendung von Biometriedaten vorantreiben: So soll ab 2023 jede Person eines Drittstaates, die eine EU-Außengrenze passieren möchte, ihre Fingerabdrücke und ein Gesichtsbild hinterlassen. Weiters setzt die EU-Agentur immer mehr auf sogenannte "vorhersagende" Arbeit – sie will also anhand der Systeme Migrationsströme bereits erkennen, bevor diese überhaupt zustande kommen.</p>
<p>Vor dem Ankauf der entsprechenden Hard- und Software traf sich die Agentur laut den durchgesickerten Papieren mit den europäischen Unternehmen Airbus, Indra, Leonardo, GMV, sowie dem japanischen Biometrieunternehmen NEC.</p>
<h3>Umstrittene "Lügendetektoren"</h3>
<p>Außerdem sollen Ausländer ab 2023, noch bevor sie eine Grenze übertreten, ihre Reiseroute gegenüber digitalen "Avataren" bekannt geben. Anhand von automatisierten Systemen werden die Frontex-Mitarbeiter der Behörde dann über als verdächtig erkanntes Verhalten benachrichtigt. Hierbei wird die Mimik analysiert. Die Wirksamkeit derartiger "Lügendetektoren" ist allerdings umstritten. Dennoch sind Gesichts- und Verhaltensanalysen seit Jahren bei Frontex im Einsatz.</p>
<p>Aktuell läuft eine Klage des EU-Abgeordneten Patrick Breyer (Piraten) gegen den – nach EU-Angaben – auf KI beruhenden "Video-Lügendetektor" iBorderCtrl. Dieser soll angeblich anhand von Gesichtsausdrücken erkennen, ob Personen beim Beantworten von Fragen lügen. Das System wurde an den Außengrenzen im Testbetrieb erprobt.</p>
<p>Das Verfahren vor dem EuGH läuft noch. Breyer will vor allem wissen, wie die Software ethisch bewertet wurde, auf welcher Rechtsgrundlage sie basiert, wie sie beworben wird und zu welchen Ergebnissen sie während des Testzeitraums gekommen ist. "Die Europäische Union finanziert immer wieder illegale Technologie, die die Grundrechte verletzt und unethisch ist", kritisiert Breyer. Aus seiner Sicht handelt es sich um eine "pseudowissenschaftliche" Entwicklung, die anhand der Transparenzklage offengelegt werden soll.</p>
<h3>Künstliche Intelligenz ist nicht neutral</h3>
<p>Die Juristin Petra Molnar, die unter anderem gemeinsam mit der Bürgerrechtsorganisation Edri einen Bericht zu Überwachung an den Grenzen veröffentlicht hat, kritisiert die EU-Agentur: "Frontex positioniert sich schon lange als führende Institution zur Überwachung von Europas Grenzen", sagt sie zum STANDARD. Die jüngsten Entwicklungen würden die "tiefgreifenden Einschnitte" in die Menschenrechte zeigen, mit denen jene konfrontiert seien, die sich sowieso an der "scharfen Kante technologischer Entwicklungen" befänden.</p>
<p>KI sei niemals neutral. Das hat damit zu tun, dass im Regelfall auf Informationen aus der Vergangenheit gesetzt wird, um derartige Systeme zu trainieren. Gab es unfaire Entscheidungen, würden diese fortgesetzt und weiter bestärkt, erklärt Molnar. "Rassismus und Diskriminierung wird durch voreingenommene Datensätze weitergeführt", sagt die Juristin. "Die Hybris von ‚Big Tech‘ und die Verlockung schneller Lösungen ignorieren die systemischen Probleme, derentwegen Gruppierungen erst gezwungen werden, zu migrieren", kritisiert sie.&nbsp;</p>

Wie die EU Massenüberwachung an Migranten erprobt

Die Grenzschutzagentur Frontex soll mit Drohnen, biometrischen Daten, KI-gesteuerten Risikoanalysen und Lügendetektoren umfassend aufgestockt werden.

The border management agency Frontex is to be comprehensively upgraded with drones, biometric data, AI-driven risk analyses as well as lie detectors

<p>The EU wants to use biometric data, drones, and self-learning systems with artificial intelligence (AI) to create a comprehensive surveillance network against migration. At a meeting between the EU border agency Frontex and lobbyists, companies from the surveillance industry were present alongside weapons manufacturers and other representatives.</p>
<p>EU's New Pact on Migration and Asylum adopted last year, which provides for Frontex to be expanded to a large extent, including its technology, served as a background of the meeting. The Union has discovered a testing ground for the practical implementation of novel surveillance methods, particularly when it comes to dealing with migration at the external borders: Frontex, for example, has been relying on systems controlled by algorithms for some time. The aim is to replace human decision-makers or to provide them with technology-supported assistance.</p>
<h3>Predictive policing</h3>
<p>Migrants are monitored even before they arrive. Frontex has been cooperating with the Israeli company Windward for years. The company, owned by former CIA director David Petraeus among others, is tracking boats in the Mediterranean by combining position and weather data. With further data from shipping companies, owners of ships and satellite images, ships that are identified as suspicious are marked by the agency staff.</p>
<p>The basis for doing the calculation is, on the one hand, the register of the International Maritime Organization; on the other hand, the company claims it is using its own data about 400,000 boats. Furthermore, freely available data from the internet are used to compare, and the information is processed together with other software. This is how the agency sends reports to the EU Commission, the EU Council and other border authorities. The Eurosur surveillance network, set up by Frontex, is used for this purpose.</p>
<h3>Biometrics and drones</h3>
<p>In the future, large drones and unmanned Zeppelins will also support Frontex in its surveillance of the Mediterranean. Moreover, the agency's aircraft are to be equipped with a wide variety of sensors to detect migrants when they are travelling in environments that make search operations difficult – in forests, for example, but also at night or in adverse weather conditions. The Austrian Institute of Technology (AIT) in Vienna is also working on the project, which is called "Foldout".</p>
<p>Frontex will also push ahead with the use of biometric data: from 2023, every person from a third country who wants to cross an EU external border will have to leave their fingerprints and an image of their face. With this, the EU agency is increasingly focusing on the so-called "predictive" work – it wants to use the systems to identify migration flows before they even occur.</p>
<p>Before purchasing the relevant hardware and software, the agency met with European companies Airbus, Indra, Leonardo, GMV, as well as Japanese biometrics company NEC, according to the leaked papers.</p>
<h3>Controversial 'lie detectors'</h3>
<p>In addition, starting in 2023, even before they cross a border, foreigners will be required to disclose their itinerary to digital "avatars." Using automated systems, the agency's Frontex staff will then be notified of any behaviour identified as suspicious. This is done by analysing facial expressions. The effectiveness of this kind of "lie detectors" is, however, controversial. Nevertheless, facial expressions and behavioural analyses have been in use at Frontex for years.</p>
<p>Currently, a lawsuit by MEP Patrick Breyer (of the German Piratenpartei) is pending against the – according to the EU - AI-based "video lie detector" iBorderCtrl. This is supposed to detect whether people are lying when answering to questions based on facial expressions. The system has been trialled at external borders.</p>
<p>The proceedings before the ECJ are still ongoing. Breyer wants to know above all how the software was ethically assessed, on what legal basis it is based, how it is advertised and what were the results during the testing period. "The European Union keeps funding illegal technology that violates fundamental rights and is unethical," Breyer criticizes. From his point of view, it is a "pseudo-scientific" development that should be disclosed on the basis of transparency complaint.</p>
<h3>Artificial intelligence is not neutral</h3>
<p>The lawyer Petra Molnar, who together with the civil rights organisation Edri, among others, has published a report on surveillance at the borders, criticises the EU agency: "Frontex has long positioned itself as the leading institution for the surveillance of Europe's borders," she tells the Der Standard. The latest developments would show the "profound curtailment" in human rights faced by those who are subjects of the "cutting edge technological developments" anyway.</p>
<p>AI would never be neutral, she finds. This has to do with the fact that, usually, information from the past is used to train such systems. If there were unfair decisions, they would be continued and reinforced further, Molnar explains. "Racism and discrimination is perpetuated by biased data sets," the lawyer says. "The hubris of 'big tech' and the lure of quick fixes ignore the systemic problems because of which groups are forced to migrate in the first place," she criticizes.</p>

How The EU Is Testing Mass Surveillance On Migrants

Frontex, the border management agency, is to be extensively beefed up with drones, biometric data, AI-driven risk analyses and lie detectors

Η υπηρεσία διαχείρισης συνόρων Frontex πρόκειται να αναβαθμιστεί σημαντικά με drone, βιομετρικά δεδομένα, αναλύσεις κινδύνου βάσει τεχνητής νοημοσύνης, καθώς και ανιχνευτές ψεύδους

<p>Η ΕΕ θέλει να χρησιμοποιήσει βιομετρικά δεδομένα, drone και συστήματα αυτοματοποιημένης εκμάθησης με τεχνητή νοημοσύνη (AI) για να δημιουργήσει ένα ολοκληρωμένο δίκτυο παρακολούθησης κατά της μετανάστευσης. Σε μια συνάντηση μεταξύ του υπηρεσίας φύλαξης των συνόρων της ΕΕ Frontex και εκπροσώπων των λόμπι, εταιρείες από τη βιομηχανία επιτήρησης βρέθηκαν στο ίδιο τραπέζι με τους κατασκευαστές όπλων και άλλους εκπροσώπους.</p>
<p>Το νέο σύμφωνο της ΕΕ για τη μετανάστευση και το άσυλο που εγκρίθηκε πέρυσι, το οποίο προβλέπει σε μεγάλο βαθμό την επέκταση της Frontex, συμπεριλαμβανομένης και της τεχνολογίας που χρησιμοποιεί, ήταν η βάση της συνάντησης. Η Ένωση βρήκε ένα νέο πεδίο δοκιμών για την πρακτική εφαρμογή καινούριων μεθόδων επιτήρησης, ειδικά για την αντιμετώπιση της μετανάστευσης στα εξωτερικά σύνορα: η Frontex, για παράδειγμα, βασίζεται σε συστήματα που ελέγχονται από αλγόριθμους εδώ και αρκετό καιρό. Ο στόχος είναι η πλήρης αντικατάσταση των υπευθύνων λήψης αποφάσεων ή να τους παρασχεθεί βοήθεια με τεχνολογικά μέσα.</p>
<h3>Προληπτική αστυνόμευση</h3>
<p>Οι μετανάστες παρακολουθούνται πριν καν φτάσουν εδώ. Η Frontex συνεργάζεται με την ισραηλινή εταιρεία Windward εδώ και χρόνια. Η εταιρεία, που ανήκει στον πρώην επικεφαλής της CIA, Ντέιβιντ Πετρέους, μεταξύ άλλων, παρακολουθεί σκάφη στη Μεσόγειο συνδυάζοντας δεδομένα θέσης και καιρού. Με περαιτέρω δεδομένα από ναυτιλιακές εταιρείες, ιδιοκτήτες πλοίων και δορυφορικές εικόνες, τα πλοία που χαρακτηρίζονται ως ύποπτα επισημαίνονται με ξεχωριστό τρόπο από το προσωπικό της υπηρεσίας.</p>
<p>Η βάση για τον υπολογισμό είναι, αφενός, το μητρώο του Διεθνούς Ναυτιλιακού Οργανισμού· αφετέρου, η εταιρεία ισχυρίζεται ότι χρησιμοποιεί δικά της δεδομένα για περίπου 400.000 σκάφη. Επιπλέον, χρησιμοποιούνται ελεύθερα δεδομένα από το Διαδίκτυο για να γίνουν συγκρίσεις και οι πληροφορίες περνούν μαζί από επεξεργασία με άλλο λογισμικό. Με αυτόν τον τρόπο ο οργανισμός στέλνει εκθέσεις στην Επιτροπή της ΕΕ, στο Συμβούλιο της ΕΕ και σε άλλες συνοριακές αρχές. Το δίκτυο παρακολούθησης Eurosur, που δημιουργήθηκε από τη Frontex, χρησιμοποιείται για τον σκοπό αυτό.</p>
<h3>Βιομετρικά και drone</h3>
<p>Στο μέλλον, μεγάλα αεροσκάφη και μη επανδρωμένα ζέπελιν θα υποστηρίζουν επίσης τη Frontex στην επιτήρηση της Μεσογείου. Επιπλέον, τα αεροσκάφη της υπηρεσίας θα εξοπλιστούν με μεγάλη ποικιλία αισθητήρων για την ανίχνευση μεταναστών όταν κινούνται σε περιβάλλοντα που δυσκολεύουν τις επιχειρήσεις επιτήρησης - για παράδειγμα σε δάση, αλλά και τη νύχτα ή σε αντίξοες καιρικές συνθήκες. Το Αυστριακό Ινστιτούτο Τεχνολογίας (AIT) στη Βιέννη συμμετέχει επίσης στο πρότζεκτ, το οποίο ονομάζεται «Foldout».</p>
<p>Η Frontex θα προχωρήσει επίσης με τη χρήση βιομετρικών δεδομένων: από το 2023, κάθε άτομο από τρίτη χώρα που θέλει να διασχίσει τα εξωτερικά σύνορα της ΕΕ θα πρέπει να αφήσει τα δακτυλικά του αποτυπώματα και μια φωτογραφία προσώπου. Με αυτά, ο οργανισμός της ΕΕ θα επικεντρωθεί όλο και περισσότερο στη λεγόμενη δουλειά «πρόληψης» - δηλαδή θα θέλει να χρησιμοποιήσει τα συστήματα για τον εντοπισμό των μεταναστευτικών ροών πριν καν αυτές εκδηλωθούν.</p>
<p>Πριν από την αγορά του σχετικού εξοπλισμού και του λογισμικού, η υπηρεσία είχε συναντήσεις με ευρωπαϊκές εταιρείες όπως οι Airbus, Indra, Leonardo, GMV, καθώς και με την ιαπωνική εταιρεία βιομετρικής NEC, σύμφωνα με έγγραφα που διέρρευσαν.</p>
<h3>Αμφιλεγόμενοι «ανιχνευτές ψεύδους»</h3>
<p>Επιπλέον, ξεκινώντας από το 2023, ακόμη και πριν διασχίσουν τα σύνορα, οι αλλοδαποί θα απαιτείται να αποκαλύπτουν το δρομολόγιό τους σε ψηφιακά «avatar». Χρησιμοποιώντας αυτοματοποιημένα συστήματα, το προσωπικό της υπηρεσίας Frontex θα ειδοποιείται για οποιαδήποτε συμπεριφορά που θα μπορούσε να θεωρηθεί ύποπτη. Αυτό γίνεται μέσω ανάλυσης των εκφράσεων του προσώπου. Η αποτελεσματικότητα αυτού του είδους «ανιχνευτών ψεμάτων» είναι, ωστόσο, αμφιλεγόμενη. Ωστόσο, οι εκφράσεις του προσώπου και οι αναλύσεις συμπεριφοράς χρησιμοποιούνται από τη Frontex εδώ και χρόνια.</p>
<p>Επί του παρόντος, εκκρεμεί αγωγή από τον ευρωβουλευτή Πάτρικ Μπρέγιερ (του γερμανικού Κόμματος των Πειρατών) ενάντια στον - σύμφωνα με την ΕΕ - «ανιχνευτή ψέματος μέσω βίντεο» iBorderCtrl. Αυτός υποτίθεται ότι ανιχνεύει αν οι άνθρωποι ψεύδονται όταν απαντούν σε ερωτήσεις με βάση τις εκφράσεις του προσώπου τους. Το σύστημα δοκιμάστηκε ήδη στα εξωτερικά σύνορα.</p>
<p>Οι διαδικασίες ενώπιον του ΔΕΚ βρίσκονται ακόμη σε εξέλιξη. Ο Μπρέγιερ θέλει να μάθει πάνω από όλα πώς αξιολογήθηκε ηθικά το λογισμικό, ποια είναι η νομική βάση που το στηρίζει, πώς διαφημίζεται και ποια ήταν τα αποτελέσματα κατά τη διάρκεια της δοκιμαστικής περιόδου. «Η Ευρωπαϊκή Ένωση συνεχίζει να χρηματοδοτεί μια παράνομη τεχνολογία που παραβιάζει τα θεμελιώδη δικαιώματα και είναι ανήθικη», ισχυρίζεται ο Μπρέγιερ. Από την άποψή του, είναι μια «ψευδο-επιστημονική» εξέλιξη που πρέπει να αποκαλυφθεί βάσει των παραπόνων για αδιαφάνεια.</p>
<h3>Η τεχνητή νοημοσύνη δεν είναι ουδέτερη</h3>
<p>&nbsp;Η δικηγόρος Πέτρα Μολνάρ, που μαζί με την οργάνωση πολιτικών δικαιωμάτων Edri, μεταξύ άλλων, δημοσίευσε έκθεση για την επιτήρηση στα σύνορα, επικρίνει την υπηρεσία της ΕΕ: «Η Frontex έχει από καιρό πάρει τα ηνία ως ο κορυφαίος θεσμός για την επιτήρηση των συνόρων της Ευρώπης», λέει στην Der Standard. Οι τελευταίες εξελίξεις δείχνουν τις «βαθιές περικοπές» στα ανθρώπινα δικαιώματα με τις οποίες έρχονται αντιμέτωποι όσοι γίνονται αντικείμενα των «τελευταίων τεχνολογικών εξελίξεων αιχμής».</p>
<p>Η AI δε θα είναι ποτέ ουδέτερη. Αυτό έχει να κάνει με το γεγονός ότι, συνήθως, πληροφορίες από το παρελθόν χρησιμοποιούνται για την εκπαίδευση τέτοιων συστημάτων. Εάν υπήρχαν άδικες αποφάσεις, θα συνεχιστούν και θα ενισχυθούν περαιτέρω, εξηγεί η Μολνάρ. «Ο ρατσισμός και οι διακρίσεις διαιωνίζονται από προκατειλημμένα σύνολα δεδομένων», λέει ο δικηγόρος. «Η ύβρις της «big tech» και το δέλεαρ για γρήγορες λύσεις αγνοούν τα συστημικά προβλήματα εξαιτίας των οποίων οι ομάδες αναγκάζονται αρχικά να μεταναστεύσουν», επικρίνει.</p>

Η ΕΕ κάνει δοκιμές για τη μαζική παρακολούθηση των μεταναστών

Η Frontex πρόκειται να αναβαθμιστεί με drone, βιομετρικά δεδομένα, αναλύσεις κινδύνου με τεχνητή νοημοσύνη και ανιχνευτές ψεύδους

L'agence européenne de gestion des frontières, Frontex, va être entièrement modernisée. Drones, données biométriques, intelligence artificielle et détecteurs de mensonges... Les outils de surveillance se multiplient et font tiquer les défenseurs des droits humains et des libertés.

<p>L'Union européenne (UE) veut utiliser des données biométriques, des drones et des systèmes d'auto-apprentissage avec intelligence artificielle (IA) pour créer un réseau de surveillance complet contre les migrations. Des entreprises du secteur de la surveillance ont participé à une réunion de l'agence européenne pour la gestion de la coopération opérationnelle aux frontières extérieures, Frontex, avec des lobbyistes, des fabricants d'armes et d'autres représentants.</p>
<p>Le nouveau pacte de l'UE sur la migration et l'asile adopté fin 2020, prévoyant d'étendre les compétences de Frontex et de développer sa technologie, a servi de toile de fond à la réunion. L'Union s'est trouvé un terrain d'essai pour la mise en œuvre pratique de nouvelles méthodes de surveillance, en particulier pour la gestion des migrations aux frontières extérieures. Frontex s'appuie déjà depuis un certain temps sur des systèmes contrôlés par des algorithmes. L'objectif est de remplacer les décideurs humains ou de leur fournir une assistance technologique.</p>
<h3>Une politique « prédictive »</h3>
<p>Les migrants sont surveillés avant même leur arrivée. Frontex coopère avec la société israélienne Windward depuis des années. Cette société, qui appartient entre autres à l'ancien directeur de la CIA David Petraeus, suit les bateaux en Méditerranée en combinant géolocalisation et données météorologiques. Grâce aux données supplémentaires fournies par les compagnies maritimes, les propriétaires de navires et les images satellites, les navires identifiés comme suspects sont signalés par le personnel de l'agence.</p>
<p>La base de calcul se fait à partir du registre de l'Organisation maritime internationale. Par ailleurs, Windward affirme utiliser ses propres données sur environ 400 000 bateaux. Des données librement disponibles sur Internet sont aussi utilisées et les informations sont traitées avec d'autres logiciels. C'est ainsi que l'agence envoie des rapports à la Commission européenne, au Conseil de l'UE et aux autres autorités frontalières. Tel est l'objectif du réseau de surveillance Eurosur, mis en place par Frontex.</p>
<h3>Biométrie et drones</h3>
<p>À l'avenir, des drones et des ballons dirigeables sans pilote appuieront aussi Frontex dans sa surveillance de la Méditerranée. En outre, les avions de l'agence seront équipés d'une grande variété de capteurs pour détecter les migrants lorsqu'ils voyagent dans des environnements qui rendent les opérations de recherche difficiles - dans les forêts, par exemple, mais aussi la nuit ou lorsque les conditions météorologiques sont mauvaises. L'Institut autrichien de technologie (AIT) de Vienne travaille également sur ce projet, appelé « Foldout » (Dépliable, ndlr).</p>
<p>Frontex va également accroître l'utilisation des données biométriques : à partir de 2023, toute personne d'un pays tiers qui souhaite franchir une frontière extérieure de l'UE devra se laisser prendre ses empreintes digitales et une photo de son visage. Pour l'agence européenne, il s'agit de se concentrer davantage sur le travail dit « prédictif » : utiliser les systèmes pour identifier les flux migratoires avant même qu'ils ne se produisent.</p>
<p>Selon les documents divulgués, avant d'acheter le matériel et les logiciels en question, l'agence a rencontré les sociétés européennes Airbus, Indra, Leonardo, GMV, ainsi que la société japonaise de biométrie NEC.</p>
<h3>Des « détecteurs de mensonges » controversés</h3>
<p>En outre, à partir de 2023, avant même de franchir une frontière, les étrangers seront tenus de divulguer leur itinéraire à des « avatars » numériques. Grâce à des systèmes automatisés, le personnel de l'agence Frontex sera ainsi informé de tout comportement identifié comme suspect. L'analyse des expressions faciales sera au coeur du processus. Mais l'efficacité de ce type de « détecteurs de mensonges » reste controversée, quoique l'analyse des expressions faciales et des comportements soit utilisée par Frontex depuis des années.</p>
<p>Le député européen Patrick Breyer (du Parti pirate allemand) a saisi la justice européenne pour dénoncer le « détecteur de mensonges vidéo » iBorderCtrl, basé sur l'IA. Celui-ci est censé détecter si les gens mentent lorsqu'ils répondent à des questions en s'appuyant sur les expressions faciales. Un système qui a été testé aux frontières extérieures.</p>
<p>La procédure devant la CJUE est toujours en cours. M. Breyer veut surtout savoir comment le logiciel a été évalué sur le plan éthique, sur quelle base juridique il se fonde, comment il est vendu et quels furent les résultats de sa période d'essai. « L'Union européenne continue de financer des technologies illégales qui violent les droits fondamentaux et sont contraires à l'éthique », dénonce M Breyer. De son point de vue, il s'agit d'un développement « pseudo-scientifique » qui devrait être rendu public dans un souci de transparence.</p>
<h3>L'intelligence artificielle n'est pas neutre</h3>
<p>L'avocate Petra Molnar, qui a notamment publié avec l'organisation de défense des droits civils Edri un rapport sur la surveillance aux frontières, critique l'agence européenne : « Frontex s'est longtemps positionnée comme l'institution leader pour la surveillance des frontières de l'Europe », explique-t-elle à <em>Der Standard</em>. Selon elle, les derniers développements montrent « les profondes restrictions » des droits humains auxquels s'exposent ceux qui font l'objet de ces « développements technologiques de pointe ».</p>
<p>Pour elle, l'intelligence artificielle ne sera jamais neutre. Car elle s'appuie sur des informations du passé. Ainsi, si des décisions injustes ont été prises, elles seraient poursuivies, voire renforcées, explique Mme Molnar. « Le racisme et la discrimination sont perpétués par des ensembles de données biaisées », dit l'avocate. « L'arrogance de la "big tech" et l'attrait pour les solutions rapides ignore les raisons systémiques qui poussent des gens à migrer », critique-t-elle.</p>

Comment l'UE teste la surveillance de masse sur les migrants

Drones, détecteurs de mensonges... Frontex va s'équiper de nouveaux outils de surveillance qui font tiquer les défenseurs des droits humains.

Agencja zarządzania granicami Frontex ma zostać kompleksowo wyposażona w drony, dane biometryczne, narzędzia analizy ryzyka oparte na sztucznej inteligencji oraz wykrywacze kłamstw.

<p>UE chce wykorzystać dane biometryczne, drony i samouczące się systemy ze sztuczną inteligencją (AI) do stworzenia kompleksowej sieci nadzoru nad migracją. Na spotkaniu unijnej agencji straży granicznej Frontex z lobbystami, obok producentów broni i innych przedstawicieli przemysłu, obecne były przedsiębiorstwa z branży inwigilacji.</p>
<p>Tłem spotkania był przyjęty w ubiegłym roku unijny Nowy Pakt o Migracji i Azylu, który przewiduje daleko idącą rozbudowę Frontexu, w tym jego technologii. Poligon doświadczalny dla praktycznego wdrażania nowatorskich metod inwigilacji, zwłaszcza w zakresie migracji, Unia odkryła na granicach zewnętrznych: już od pewnego czasu Frontex wykorzystuje na przykład systemy sterowane przez algorytmy. Celem jest zastąpienie ludzkich decydentów lub zapewnienie im pomocy wsparcia technologii.</p>
<h3>Metody prognozowania w policji</h3>
<p>Migranci są monitorowani jeszcze przed przybyciem. Frontex od lat współpracuje z izraelską firmą Windward. Firma ta, której jednym z właścicieli jest były dyrektor CIA David Petraeus, śledzi łodzie na Morzu Śródziemnym, posługując się danymi dotyczącymi lokalizacji i pogody. Dzięki dodatkowym danym od firm żeglugowych, właścicieli statków i zdjęciom satelitarnym, statki, które zostaną zidentyfikowane jako podejrzane, są oznaczane przez pracowników agencji.</p>
<p>Podstawą do obliczeń jest rejestr Międzynarodowej Organizacji Morskiej. Firma twierdzi ponadto, że korzysta z własnych danych o 400 tys. łodzi. Do porównania wykorzystywane są również ogólnodostępne dane z Internetu, a informacje są przetwarzane z pomocą dodatkowego oprogramowania. W ten sposób agencja wysyła raporty do Komisji UE, Rady UE i innych organów granicznych. Do tego celu wykorzystywany jest utworzony przez Frontex system nadzoru Eurosur.</p>
<h3>Biometria i drony</h3>
<p>W przyszłości również duże drony i bezzałogowe sterowce będą wspierać Frontex w nadzorowaniu Morza Śródziemnego. Ponadto samoloty agencji mają być wyposażone w szeroką gamę czujników do wykrywania migrantów wybierających trasy utrudniających operacje poszukiwawcze - na przykład w lasach, ale także w nocy lub w niekorzystnych warunkach pogodowych. Również Austriacki Instytut Technologii (AIT) w Wiedniu pracuje nad projektem pod nazwą "Foldout".</p>
<p>Frontex będzie również forsował wykorzystanie danych biometrycznych: od 2023 r. każda osoba z kraju trzeciego, która będzie chciała przekroczyć zewnętrzną granicę UE, będzie musiała zostawić swoje odciski palców i zdjęcie twarzy. W związku z tym agencja UE coraz bardziej koncentruje się na tzw. pracy "predykcyjnej" - chce wykorzystać systemy do identyfikacji przepływów migracyjnych, zanim jeszcze do nich dojdzie.</p>
<p>Według dokumentów, które wyciekły przed zakupem odpowiedniego sprzętu i oprogramowania, Frontex spotkał się z europejskimi firmami Airbus, Indra, Leonardo, GMV, jak również z japońską firmą biometryczną NEC.</p>
<h3>Kontrowersyjne "wykrywacze kłamstw"</h3>
<p>Ponadto, począwszy od 2023 roku, jeszcze przed przekroczeniem granicy, obcokrajowcy będą musieli ujawnić swoją trasę podróży cyfrowym "awatarom". Za pomocą zautomatyzowanych systemów pracownicy agencji Frontex będą następnie powiadamiani o wszelkich zachowaniach uznanych za podejrzane. Odbywa się to poprzez analizę mimiki twarzy. Skuteczność tego rodzaju "wykrywaczy kłamstw" jest jednak wątpliwa. Niemniej jednak mimika twarzy i analizy behawioralne są stosowane przez Frontex od lat.</p>
<p>Obecnie toczy się sprawa sądowa europosła Patricka Breyera (z niemieckiej Piratenpartei) przeciwko opartemu (według UE) na sztucznej inteligencji "wideo-wykrywaczowi kłamstw" iBorderCtrl. Ma on na podstawie wyrazu twarzy wykrywać, czy ludzie kłamią odpowiadając na pytania. System był testowany na granicach zewnętrznych.</p>
<p>Postępowanie przed Europejskim Trybunałem Sprawiedliwości wciąż trwa. Breyer chce przede wszystkim wiedzieć, jak oprogramowanie zostało ocenione pod względem etycznym, na jakiej podstawie prawnej jest oparte, jak jest przedstawiane i jakie były wyniki w okresie testowania. - Unia Europejska wciąż finansuje nielegalną technologię, która narusza podstawowe prawa i jest nieetyczna - mówi Breyer. Z jego punktu widzenia jest to "pseudonaukowe" rozwiązanie, które powinien być ujawniony na podstawie skargi domagającej się przejrzystości.</p>
<h3>Sztuczna inteligencja nie jest neutralna</h3>
<p>Prawniczka Petra Molnar, która m.in. wraz z organizacją praw obywatelskich Edri opublikowała raport na temat inwigilacji na granicach, również krytykuje unijną agencję. - Frontex od dawna pozycjonuje się jako wiodąca instytucja do nadzoru europejskich granic - mówi w rozmowie z "Der Standard". Według niej ostatnie wydarzenia pokazują "głębokie ograniczenie" praw człowieka, z jakim borykają się ci, którzy i tak zmuszeni są na własnej skórze odczuwać skutki "najnowocześniejszych osiągnięć technologicznych".</p>
<p>Molnar przekonuje, że sztuczna nigdy nie będzie neutralna. Wiąże się to z tym, że zazwyczaj do "szkolenia" systemów, które się na niej opierają, wykorzystuje się informacje z przeszłości. Jeśli dochodziło do niesprawiedliwych decyzji, będą one kontynuowane i wzmacniane dalej. - Rasizm i dyskryminacja są utrwalane przez tendencyjne zestawy danych - podkreśla prawniczka. "Pycha big tech i pokusa szybkich rozwiązań ignorują systemowe problemy, z powodu których całe grupy ludzi zmuszane są do migracji" - krytykuje.</p>

UE testuje masową inwigilację migrantów

Frontex ma zostać wyposażony w drony, dane biometryczne, narzędzia analizy ryzyka oparte na sztucznej inteligencji oraz wykrywacze kłamstw.

Frontex, la agencia de gestión de fronteras, va a modernizarse con drones, datos biométricos, análisis de riesgos basados en inteligencia artificial y detectores de mentiras

<p>La Unión Europea quiere utilizar datos biométricos, drones y sistemas de autoaprendizaje con inteligencia artificial para crear una red de vigilancia integral contra la inmigración. En una reunión entre la agencia de fronteras comunitaria, Frontex, y grupos de presión, también hubo empresas de la industria de la vigilancia y fabricantes de armas, entre otros.</p>
<p>El Nuevo Pacto sobre Migración y Asilo de la UE, adoptado el año pasado y que prevé ampliar Frontex, incluida su tecnología, fue el trasfondo del encuentro. La Unión ha dado con un campo de pruebas para incorporar nuevos métodos de vigilancia, sobre todo de cara a abordar la migración en las fronteras exteriores. Desde hace tiempo, Frontex apuesta por sistemas controlados por algoritmos para sustituir a los responsables humanos de la toma de decisiones o proporcionarles asistencia con ayuda de la tecnología.</p>
<h3>Vigilancia predictiva</h3>
<p>A los migrantes se les vigila incluso antes de llegar. Frontex coopera desde hace años con la empresa israelí Windward, que rastrea embarcaciones en el Mediterráneo a partir de datos meteorológicos y de ubicación. Entre sus propietarios figuran el exdirector de la CIA David Petraeus, entre otros. Con datos adicionales de las compañías navieras, de propietarios de barcos y de imágenes satelitales, el personal de la agencia distingue a los barcos que identifica como sospechosos.</p>
<p>La base del cálculo es el registro de la Organización Marítima Internacional y, según afirma Windward, su uso de datos propios sobre 400.000 barcos. Además, se compara con datos de libre acceso en internet y la información se procesa con otros programas informáticos. Después la agencia envía informes a la Comisión Europea, al Consejo y a otras autoridades fronterizas a través de la red de vigilancia Eurosur, creada por la propia Frontex.</p>
<h3>Biometría y drones</h3>
<p>Frontex también recurrirá a grandes drones y vehículos aéreos no tripulados para vigilar el Mediterráneo. Además, las aeronaves de la agencia se equiparán con una amplia variedad de sensores para detectar a los migrantes cuando se desplacen por entornos que dificulten las operaciones de búsqueda: en los bosques, por ejemplo, pero también de noche o en condiciones meteorológicas adversas. El Instituto Austriaco de Tecnología también trabaja en el proyecto, denominado <em>Foldout </em>('Despliegue').</p>
<p>La agencia también impulsará el uso de datos biométricos: desde 2023, toda persona de un tercer país que quiera cruzar una frontera exterior de la UE deberá dejar sus huellas dactilares y una imagen de su rostro. Con ello, Frontex se inclina hacia la llamada labor "predictiva": quiere utilizar los sistemas para identificar los flujos migratorios antes de que se produzcan.</p>
<p>Según informes filtrados, la agencia se reunió con las empresas europeas Airbus, Indra, Leonardo y GMV, y con la empresa japonesa de biometría NEC, antes de adquirir el distinto hardware y software.</p>
<h3>Polémicos 'detectores de mentiras'</h3>
<p>También desde 2023, los extranjeros tendrán que dar a conocer su itinerario incluso antes de cruzar una frontera. Mediante sistemas automatizados, el personal de Frontex recibirá entonces una notificación de cualquier comportamiento identificado como sospechoso a partir de análisis de las expresiones faciales. Sin embargo, la eficacia de este tipo de "polígrafos" es polémica, aunque la agencia analiza expresiones faciales y comportamientos desde hace años.</p>
<p>Está pendiente una demanda del eurodiputado Patrick Breyer, del Partido Pirata de Alemania, contra el "detector de mentiras por vídeo" iBorderCtrl, basado en inteligencia artificial según la UE. Se supone que este sistema detecta si las personas mienten al responder a las preguntas según sus expresiones faciales. Ya se ha probado en las fronteras exteriores.</p>
<p>El proceso sigue su curso en el Tribunal de Justicia de la Unión Europea. Breyer quiere saber sobre todo cómo fue la evaluación ética del software, su base legal, cómo se promociona y cuáles fueron los resultados de las pruebas. "La Unión Europea financia tecnología ilegal que viola los derechos fundamentales y no es ética", critica Breyer. Desde su punto de vista, es un desarrollo "pseudocientífico" que debería divulgarse por transparencia.</p>
<h3>La inteligencia artificial no es neutral</h3>
<p>La abogada Petra Molnar, que junto con la organización de derechos civiles Edri, entre otras, ha publicado un informe sobre la vigilancia en las fronteras, critica a la agencia comunitaria: "Frontex se ha posicionado durante mucho tiempo como la principal institución para la vigilancia de las fronteras de Europa", dice a<em> Der Standard</em>. Los últimos avances mostrarían el "profundo recorte" en derechos humanos al que se enfrentan quienes son objeto de los "desarrollos tecnológicos punteros".</p>
<p>Molnar considera que la inteligencia artificial nunca será neutral, pues por lo general estos sistemas se entrenan con información del pasado. Si hubiera decisiones injustas, se mantendrían y se reforzarían: "El racismo y la discriminación se perpetúan mediante conjuntos de datos sesgados", explica la abogada. "La arrogancia de la 'big tech' y el atractivo de las soluciones rápidas ignoran los problemas sistémicos que obligan a los grupos a emigrar en primer lugar".</p>

La Unión Europea prueba la vigilancia masiva de inmigrantes

La agencia Frontex va a modernizarse con drones, datos biométricos, análisis de riesgos basados en inteligencia artificial y detectores de mentiras

How The EU Is Testing Mass Surveillance On Migrants

The border management agency Frontex is to be comprehensively upgraded with drones, biometric data, AI-driven risk analyses as well as lie detectors

Muzayen Al-Youssef