Private Bilder aus Krankenakte unerlaubt als Trainings-Daten für KI verwendet
<html> <header class=„article-header“><h1 class=„articleheading“>Private Bilder aus Krankenakte unerlaubt als Trainings-Daten für KI verwendet</h1><div class=„publish-info“> Marie-Claire Koch</div></header><figure class=„aufmacherbild“><img src=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/6/1/4/0/4/0/Janus-c00e8813b067a0a6.jpeg“ srcset=„https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/6/1/4/0/4/0/Janus-c00e8813b067a0a6.jpeg 700w, https://heise.cloudimg.io/width/1050/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/6/1/4/0/4/0/Janus-c00e8813b067a0a6.jpeg 1050w, https://heise.cloudimg.io/width/1500/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/6/1/4/0/4/0/Janus-c00e8813b067a0a6.jpeg 1500w, https://heise.cloudimg.io/width/2300/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/3/6/1/4/0/4/0/Janus-c00e8813b067a0a6.jpeg 2300w“ alt=„“ class=„img-responsive“ referrerpolicy=„no-referrer“ /><figcaption class=„akwa-caption“>(Bild: Michkasova Elena / Shutterstock.com)</figcaption></figure><p><strong>Eine Künstlerin hat Bilder aus ihrer Krankenakte in dem Trainings-Datensatz einer Künstlichen Intelligenz namens LAION gefunden. Vieles ist rätselhaft.</strong></p><p>Eine KI-Künstlerin aus Kalifornien hat herausgefunden, dass private Bilder aus ihrer Krankenakte aus dem Jahr 2013 in einem KI-Trainingssatz von LAION verwendet werden. Mit solchen Daten trainieren <a href=„https://www.heise.de/news/Text-zu-Bild-Revolution-Stable-Diffusion-ermoeglicht-KI-Bildgenerieren-fuer-alle-7244307.html“><strong>Text-zu-Bild-Generatoren wie Stable Diffusion [1]</strong></a> und DALL-E . Dazu hatte sie ein Bild von sich bei der dafür angelegten Seite <a href=„https://haveibeentrained.com/“ rel=„external noopener“ target=„_blank“><strong>https://haveibeentrained.com [2]</strong></a> hochgeladen und fand dort Bilder, die ihr damaliger Arzt 2013 in ihrer Krankenakte hinterlegt hatte; mit ihrem Namen waren die Bilder nicht verknüpft. Nachdem dieser 2018 gestorben war, fanden diese ihren Weg ins Internet, ohne ihre vorherige Zustimmung. Damals hatte sie unterschrieben, dass niemand anderes die Bilder sehen darf. Ein Link aus der <a href=„https://laion.ai/blog/laion-5b/“ rel=„external noopener“ target=„_blank“><strong>„multimodalen“ Datensammlung von LAION [3]</strong></a> – einem offenen, multimodalem Datensatz zum Trainieren von KI zu Forschungszwecken – verwies jedoch auf das Bild.</p><p>Der Forscher Zack Marshall kommentiert, dass <a href=„https://www.jmir.org/2018/2/e70/“ rel=„external noopener“ target=„_blank“><strong>er und seine Kollegen bereits Untersuchungen zu derartigen Fällen angestellt haben [4]</strong></a>. So sei „bei mehr als 70 Prozent der in medizinischen Fachzeitschriften veröffentlichten Fallberichte mindestens ein Bild aus dem Paper in Google Images zu finden“. Marshall vermutet, dass ihr Arzt das Bild wahrscheinlich in einer medizinischen Fachzeitschrift veröffentlicht hatte. <a href=„https://arstechnica.com/information-technology/2022/09/artist-finds-private-medical-record-photos-in-popular-ai-training-data-set/“ rel=„external noopener“ target=„_blank“><strong>Gegenüber dem US-Medium Ars Technica [5]</strong></a> sagte Lapine, dass das Bild wohl aus den Akten ihres verstorbenen Arztes entwendet wurde und anschließend im Internet landete. Ars Technica hatte noch weitere ähnliche Patientenbilder in dem Datensatz gefunden.</p><h3 class=„subheading“ id=„nav_rechtslage_noch0“>Rechtslage noch unklar</h3><p>Da LAION nicht selbst über die Bilder verfügt, sondern lediglich auf diese verweist, sind die Betreiber der verlinkten Seiten juristisch verantwortlich. Unklar ist, welches Recht hier gilt. Die Mitarbeiter befinden sich in verschiedenen Ländern. In Deutschland besteht vermutlich die Pflicht, die Links auf rechtswidrige Inhalte – nachdem die Verantwortlichen Kenntnis darüber erlangen – zu entfernen.</p><div class=„a-u-inline ho-text c3“><header class=„mb-4“><h3 class=„mb-2 text-xl font-bold leading-none“>Lesen Sie auch</h3><hr class=„max-w-[240px] border-b-[3px] border-coolGray-800 dark:border-white“ /></header><section data-component=„TeaserList“ class=„grid gap-6 md:gap-y-8“ data-sneak-peek-elements-container=„true“><article data-component=„TeaserContainer“ data-cid=„7132102“ data-content-id=„3555182“ class=„flex ho-text“ data-teaser-name=„MinimalHorizontalTeaser“ data-upscore-object-id=„3555182“><a data-component=„TeaserLinkContainer“ href=„https://www.heise.de/news/Copyright-fuer-Werke-kuenstlicher-Intelligenz-in-USA-eingeklagt-7132102.html“ class=„group flex“ data-google-interstitial=„true“ data-upscore-url=„true“><figure data-component=„Image“ class=„w-24 mr-2 md:w-40 shrink-0 md:mr-4“><img src=„https://static.wallabag.it/10310176882b3e9c94cbad48c47c7c637d0760d0/64656e6965643a646174613a696d6167652f7376672b786d6c3b6261736536342c5044393462577767646d567963326c76626a30694d5334774969426c626d4e765a476c755a7a3069565652474c546769507a344b50484e325a79423361575230614430694e6a6b32634867694947686c6157646f644430694d7a6b786348676949485a705a58644362336739496a41674d4341324f5459674d7a6b78496942325a584a7a61573975505349784c6a4569494868746247357a50534a6f644852774f693876643364334c6e637a4c6d39795a7938794d4441774c334e325a79496765473173626e4d3665477870626d7339496d6830644841364c79393364336375647a4d7562334a6e4c7a45354f546b7665477870626d736950676f674943416750476367633352796232746c50534a756232356c4969426d615778735053496a5a6a4a6d4d6d59794969426d615778734c57397759574e7064486b39496a456950676f674943416749434167494478795a574e3049486739496a416949486b39496a4169494864705a48526f505349324f5459694947686c6157646f644430694d7a6b78496a34384c334a6c5933512b43694167494341384c32632b436a777663335a6e50673d3d/“ width=„1280“ height=„720“ alt=„Faksimile aus der Entscheidung des Copyright Review Board vom 14. Februar 2022 "After reviewing the application, deposit copy, and relevant correspondence, along with the arguments in the second request for reconsideration, the Board affirms the Registration Program’s denial of registration. I. DESCRIPTION OF THE WORK The Work is a two-dimensional artwork, reproduced below:" gefolgt von einem bunten Bild.“ class=„c1“ referrerpolicy=„no-referrer“ /></figure><div class=„-translate-y-1“><header data-component=„TeaserHeader“><h3 class=„flex flex-col“>Copyright für Werke künstlicher Intelligenz in USA eingeklagt</h3></header></div></a></article><hr class=„md:hidden border-gray-100“ /><article data-component=„TeaserContainer“ data-cid=„7267091“ data-content-id=„3610156“ class=„flex ho-text“ data-teaser-name=„MinimalHorizontalTeaser“ data-upscore-object-id=„3610156“><a data-component=„TeaserLinkContainer“ href=„https://www.heise.de/news/EU-Gesundheitsdatenraum-Bundesrat-fuer-Widerspruchsrecht-vor-Forschungsfreigabe-7267091.html“ class=„group flex“ data-google-interstitial=„true“ data-upscore-url=„true“><figure data-component=„Image“ class=„w-24 mr-2 md:w-40 shrink-0 md:mr-4“><img src=„https://static.wallabag.it/10310176882b3e9c94cbad48c47c7c637d0760d0/64656e6965643a646174613a696d6167652f7376672b786d6c3b6261736536342c5044393462577767646d567963326c76626a30694d5334774969426c626d4e765a476c755a7a3069565652474c546769507a344b50484e325a79423361575230614430694e6a6b32634867694947686c6157646f644430694d7a6b786348676949485a705a58644362336739496a41674d4341324f5459674d7a6b78496942325a584a7a61573975505349784c6a4569494868746247357a50534a6f644852774f693876643364334c6e637a4c6d39795a7938794d4441774c334e325a79496765473173626e4d3665477870626d7339496d6830644841364c79393364336375647a4d7562334a6e4c7a45354f546b7665477870626d736950676f674943416750476367633352796232746c50534a756232356c4969426d615778735053496a5a6a4a6d4d6d59794969426d615778734c57397759574e7064486b39496a456950676f674943416749434167494478795a574e3049486739496a416949486b39496a4169494864705a48526f505349324f5459694947686c6157646f644430694d7a6b78496a34384c334a6c5933512b43694167494341384c32632b436a777663335a6e50673d3d/“ width=„7120“ height=„4000“ class=„c2“ referrerpolicy=„no-referrer“ alt=„image“ /></figure><div class=„-translate-y-1“><header data-component=„TeaserHeader“><h3 class=„flex flex-col“>EU-Gesundheitsdatenraum: Bundesrat für Widerspruchsrecht vor Forschungsfreigabe</h3></header></div></a></article></section></div><p>() </p><p><strong>URL dieses Artikels:</strong><small>
https://www.heise.de/-7274268
</small></p><p><strong>Links in diesem Artikel:</strong><small>
<strong>[1]</strong> https://www.heise.de/news/Text-zu-Bild-Revolution-Stable-Diffusion-ermoeglicht-KI-Bildgenerieren-fuer-alle-7244307.html
</small><small>
<strong>[2]</strong> https://haveibeentrained.com/
</small><small>
<strong>[3]</strong> https://laion.ai/blog/laion-5b/
</small><small>
<strong>[4]</strong> https://www.jmir.org/2018/2/e70/
</small><small>
<strong>[5]</strong> https://arstechnica.com/information-technology/2022/09/artist-finds-private-medical-record-photos-in-popular-ai-training-data-set/
</small><small>
<strong>[6]</strong> mailto:mack@heise.de
</small></p><p class=„printversion__copyright“><em>Copyright © 2022 Heise Medien</em></p> </html>
Falls nicht anders bezeichnet, ist der Inhalt dieses Wikis unter der folgenden Lizenz veröffentlicht: CC Attribution-Noncommercial-Share Alike 4.0 International