Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

AI generiert 40.000 potenzielle Chemiewaffen in 6 Stunden

René Walter
Grafik-Designer, Blogger, Memetiker | goodinternet.substack.com

Irgendwas mit Medien seit 1996, Typograph, Grafiker, Blogger. Ask me anything.

Zum Kurator'innen-Profil
René WalterFreitag, 18.03.2022

Das Forscherteam eines amerikanischen Pharmaunternehmens hat mithilfe einer künstlichen Intelligenz 40.000 potenziell tödliche Nervengifte identifiziert. Die Forscher des Unternehmens arbeiten eigentlich an der Entdeckung neuer Molekül-Kombinationen und hatten zuvor einen AI-unterstützten Molekül-Generator entwickelt. In diesem haben sie nun einfach den Mechanismus zur Vermeidung von Giftigkeit umgekehrt: Statt toxische Wirkungen von Verbindungen zu verhindern, wurde ihre Entdeckung vom Algorithmus belohnt. Zum Dank entwickelte die Software prompt Tausende neuer Chemiewaffen. Zwar ist immer noch Expertise zur tatsächlichen Entwicklung dieser Gifte notwendig, doch "mit Programmierkenntnissen und Algorithmen des maschinellen Lernens sinke die Schwelle zur Entwicklung chemischer Kampfstoffe dramatisch" und ein "nichtmenschlicher Generator einer tödlichen Chemiewaffe ist [heute bereits] voll realisierbar". The Verge machte ein Interview mit den Wissenschaftlern.

Die breite Debatte um AI-Ethics umfasst Diskurse um Verzerrungen aufgrund unausgewogener Datensätze, die Manipulation der Öffentlichkeit durch Soc-Med-Algorithmen, oder Auswirkungen auf die Arbeitswelt. Ich finde aber nur wenige Diskussionen über die Ethik von dem, was ich als "Brute Force AI" bezeichnen würde, also Algorithmen, die alle möglichen Varianten eines gegebenen Problems erzeugen. Trainiere ich etwa einen Computer-Vision-Algorithmus auf 1 Million Bilder von Cheeseburgern, kann mir diese Software jede Variante der "Idee Cheeseburger" ausrechnen und zur Verfügung stellen. Das ist nun eben nicht nur mit Cheeseburgern möglich, sondern auch mit Proteinen, wie Googles Deepmind vor einem Jahr mit seinem spektakulären Alphafold-Algorithmus vorgeführt hat, sondern auch mit Chemiewaffen.

Die Debatte um demokratisierte Waffenproduktion begann vor zehn Jahren mit dem ersten Maschinengewehr aus einem 3D-Drucker, bereits damals fantasierten Tech-Journalisten von downloadbaren Waffen, die Gott sei Dank nie ein Massenmarkt wurden. 

Es wird Zeit, dass wir über die Auswirkungen einer Technologie nachdenken, die uns alle Lösungsmöglichkeiten aller Probleme bereitstellt und die nicht nur alle möglichen Cheeseburger und Beatles-Songs ausrechnen kann, sondern auch alle tödlichen chemischen Kampfstoffe.

AI generiert 40.000 potenzielle Chemiewaffen in 6 Stunden

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.