wallabag:ki_-forscher-fordern-schutz-vor-missbrauch

KI: Forscher fordern Schutz vor Missbrauch

<html> <a href=„https://www.heise.de/newsticker/meldung/Kuenstliche-Intelligenz-Forscher-fordern-Schutz-vor-Missbrauch-3975122.html“>zurück zum Artikel</a><figure class=„printversionlogo“><img src=„https://1.f.ix.de/icons/svg/logos/svg/heiseonline.svg“ alt=„heise online“ width=„180“ heigth=„40“/></figure><figure class=„aufmacherbild“><img src=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/2/3/7/5/3/7/2/KuenstlicheIntelligenz-5d0165c2d420df20.jpeg“ alt=„Künstliche Intelligenz, Informationsfreiheit“/><figcaption class=„akwa-caption“>(Bild: iX) </figcaption></figure>Die KI-Technik sei so weit entwickelt, dass sie eine ernste Bedrohung darstellt, sollten Schurkenstaaten, Kriminelle oder Terroristen sie einsetzen, meinen Experten. Sie äußern sich in einer Studie zu möglichen Gegenmaßnahmen und Kontrolle. Internationale Forscher beleuchten in einer Studie den aktuellen Stand von künstlicher Intelligenz (KI) und maschinellem Lernen (ML) und gehen der Frage nach, wie diese Technik zum Risiko werden kann, wenn Kriminelle, Terroristen oder Schurkenstaaten sie benutzen. Dabei richtet sich die Sorge der Autoren vor allem auf fortgeschrittene ML-Techniken, die bereits jetzt – nicht erst in ferner Zukunft – ohne menschliches Zutun agierten, berichtet BBC[1]. <h3 class=„subheading“ id=„nav_nutzen_von_ki1“>Nutzen von KI unbestritten, aber Gefahren ignoriert</h3> Aktuelle KI-Technik sei so ausgereift, dass sie eine Bedrohung darstelle, sollte sie in feindlicher Absicht benutzt werden, legen die Autoren dar. Und die Gefahr eines Missbrauchs sei real, wie jüngste Beispiele etwa von gezielten Angriffen oder Desinformation zeigten. KI habe unbestritten viele positive Wirkungen, jedoch würden die Gefahren bislang kaum thematisiert. Eine Feststellung, die auch jüngst auf der Müncher Sicherheitskonferenz geäußert[2] wurde. Deshalb fordern die Autoren der Studie Politiker und KI-Spezialisten auf, sich über die Eindämmung der Gefahren durch KI zu verständigen, ohne die Forschung allzu sehr zu beeinträchtigen. In den falschen Händen könne KI die digitale, physische und politische Sicherheit bedrohen, beispielsweise durch Cyberattacken[3], Dronen und Manipulation. Insbesondere Entwickler müssten bereits beim Design von KI-Systemen auf möglichen Missbrauch achten. <h3 class=„subheading“ id=„nav_verantwortungsvo2“>Verantwortungsvolle Offenlegung von Schwachstellen</h3> Als konkrete Gegenmaßnahmen schlagen die Autoren unter anderem vor, Verfahrensweisen aus der IT-Sicherheit zu übernehmen wie Schwachstellen verantwortungsvoll offenzulegen (Veröffentlichung erst bei Verfügbarkeit eines Patches). Bei Forschung, Lizenzierung und Freigabe von KI-Technik sollten ähnliche Regelungen wie bei Dual-Use-Gütern erwogen werden. Die 100 Seiten lange Studie „The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation“[4] ist als PDF-Datei[5] frei verfügbar. An ihr waren 26 Wissenschaftler sowie Mitglieder wissenschaftlicher und zivilgesellschaftlicher Einrichtungen beteiligt, darunter die Electronic Frontier Foundation, das Future of Humanity Institute, das Centre for the Study of Existential Risks, das Projekt OpenAI, mehrere Universitäten und der regierungsnahe US-Think-Tank Center for New American Security. Die Studie beruht auf der Forschungsarbeit der Autoren sowie auf Diskussionen des Workshops „Bad Actor Risks in Artificial Intelligence“[6] (deutsch etwa: Risiken von KI in Schurkenhänden), der vom 19. bis 20. Februar 2017 in Oxford stattfand. Die Themen des Workshops waren automatisiertes Hacken, gezielte Propaganda mit KI-Hilfe und (teil-)autonome Waffensysteme sowie der Umgang von Regierungen mit Besitz und Nutzungsbeschränkung von KI-Technik. (tiw[7]) <hr/>URL dieses Artikels: <code>http://www.heise.de/-3975122</code> Links in diesem Artikel: <code>[1] http://www.bbc.com/news/technology-43127533</code> <code>[2] https://www.heise.de/meldung/Muenchener-Sicherheitskonferenz-Ruf-nach-Debatte-ueber-Risiken-der-KI-3972708.html</code> <code>[3] https://www.heise.de/meldung/Zerstoererischste-Cyber-Attacke-USA-und-Grossbritannien-beschuldigen-Russland-fuer-NotPetya-3971466.html</code> <code>[4] https://maliciousaireport.com/</code> <code>[5] https://img1.wsimg.com/blobby/go/3d82daa4-97fe-4096-9c6b-376b92c619de/downloads/1c6q2kc4v_50335.pdf</code> <code>[6] https://www.fhi.ox.ac.uk/bad-actors-and-artificial-intelligence-workshop/</code> <code>[7] mailto:tiw@ix.de</code> Copyright © 2018 Heise Medien </html>