Künstliche Intelligenz: Chance oder Gefahr?

Zwei Seiten der Medaille

In den vergangenen Monaten habe ich mich intensiv mit KI, ihren Risiken und Chancen auseinandergesetzt und viel recherchiert. Bei meinen Recherchen sind mir drei Fälle besonders ins Auge gesprungen, zu denen ich jeweils eine Meinung habe.

© mindscapephotos via stock.adobe.com

Autor: Ansgar Licher

1.

Windows wollte die KI-gesteuerte Recall-Funktion einführen.

Hintergrund: Bei der Recall-Funktion hätte eine KI jede Aktion, die am Windows-Rechner ausgeführt wird, per regelmäßigem Screenshot dokumentiert, die Inhalte ausgelesen, abgespeichert und diese für eine Suchfunktion zur Verfügung gestellt. Es wäre quasi ein fotografisches Gedächtnis entstanden, in dem der Nutzer Vergangenes suchen kann. Die Gefahr dabei: Für die vollständige Dokumentation des Rechners sammelt die KI große Menge Informationen und verknüpft diese. Nach massiver Kritik hat sich Microsoft entschieden, die Funktion zunächst nicht in die neuen PCs zu integrieren, sondern sie vorerst weiter mit Windows-Insidern zu testen. Außerdem soll sie nun standardmäßig deaktiviert sein, so dass Anwender ihre Aktivierung explizit vornehmen müssen. Ursprünglich sollte sie – ohne den Anwender darüber zu informieren – aktiviert sein.

Meine Sicht darauf: Die geplante Recall-Funktion von Windows birgt erhebliche Risiken für Datenschutz und Sicherheit. Durch die kontinuierliche Aufzeichnung und Speicherung von jedem Stück Text, jeder Benutzerinteraktion, allen sensiblen Daten wie Konto- oder Kreditkartennummern sowie Passwörtern könnte bei einem Hackerangriff ein Datenleck ungeahnten Ausmaßes entstehen. Dies gefährdet nicht nur die persönliche Privatsphäre, sondern auch sensible geschäftliche und staatliche Informationen.

2.

Viele KI-Firmen wollen die Daten nicht preisgeben, mit denen sie ihre Software trainieren.

Hintergrund: Das EU-Gesetz „AI-Act“ verpflichtet Firmen zur Offenlegung der Trainings-Daten von KI-Systemen, um eine externe Kontrolle der verwendeten Inhalte zu ermöglichen. Unternehmen sträuben sich häufig dagegen. Eines ihrer Argumente lautet: Konkurrenten könnten sich dadurch Vorteile verschaffen.

Meine Sicht darauf: Wenn KI-Firmen nicht preisgeben, womit sie die Bots füttern, besteht die Gefahr, dass die Inhalte hochgradig subjektiv sind. Schließlich lernt die KI auf Basis von Datenmassen und wird daher aktiv gesteuert. Die Geheimhaltung der Trainingsdaten verhindert die absolut notwendige Transparenz, die entscheidend ist, um mögliche Verzerrungen und Vorurteile in den Algorithmen zu erkennen und zu korrigieren. Ohne Offenlegung ist es schwierig sicherzustellen, dass die KI auf ethischen und ausgewogenen Daten basiert. Zudem wird die Glaubwürdigkeit und Akzeptanz von KI-Systemen in der Öffentlichkeit erheblich beeinträchtigt, wenn die Transparenz fehlt.

3.

KI-Chatbot-System erfindet Präzedenzfälle.

Hintergrund: Ein US-Rechtsanwalt befragt ChatGPT nach Präzedenzfällen für einen Fall – und übernimmt die Antworten ungeprüft. Vor Gericht stellt sich allerdings heraus: Die KI hat die vermeintlichen Präzedenzfälle erfunden.

Meine Sicht darauf: Der Vorfall macht deutlich, dass die Verantwortung letztlich immer beim Menschen liegt. Eine gesunde Skepsis und das Bewusstsein für die Möglichkeiten und Grenzen der KI sind dabei zentrale Komponenten. Nur durch kontinuierliches Mitdenken und kritisches Hinterfragen können wir die Nutzung der KI effektiv und sicher gestalten.

Endlich unabhängig werden

WEITERE NACHRICHTEN

  • 02 07/2024
    Künstliche Intelligenz: Chance oder Gefahr?

    IT-Experte Ansgar Licher ordnet aktuelle Trends bei Künstlicher Intelligenz ein und zeigt Möglichkei-ten und Gefahren auf....

    Weiterlesen
  • 03 06/2024
    IT-Angriffe: Diese 5 Mythen begegnen uns immer wieder

    Im Bereich Cybersecurity und -attacken sind Mythen, Binsenweisheiten und Co. schlechte Ratgeber. Diese Mythen halten sich hartnäckig und schaden Unte...

    Weiterlesen
  • 30 04/2024
    Wie Sie mit Mailarchivierung auch Ihre Geschäftsprozesse optimieren

    Die richtige Software zur Mailarchivierung kann mehr als nur Mails rechtskonform archivieren! Mit diesen Tipps optimieren Sie auch Ihre Geschäftsproz...

    Weiterlesen
  • 02 04/2024
    Darum lohnt sich digitale Souveränität für Ihr Unternehmen

    Einfach erklärt: Was bedeutet digitale Souveränität? Wie lässt sie sich umsetzen? Und warum profi-tieren Sie davon?...

    Weiterlesen
  • 07 03/2024
    Social Enginering: So hacken Cyberkriminelle Ihre Psyche

    Die sicherste IT-Infrastruktur nützt nichts, wenn ein Mitarbeiter das Ziel ist. Doch Sie können sich vor Social Engineering schützen! So geht´s...

    Weiterlesen
  • 31 01/2024
    Stress mit Microsoft

    Es gibt 3 Pain Points, auf die jeder Administrator bei Microsoft immer wieder stößt. Die gute Nach-richt: Es gibt eine Lösung!...

    Weiterlesen
  • 02 01/2024
    Für Sie getestet: Wie sicher und datenschutzkonform ist die Android-Variante CalyxOS?

    Wir wollten herausfinden, ob das Betriebssystem CalyxOS hält, was es verspricht: Es soll laut Anbieter besonders datenschutzfreundlich sein. Unser So...

    Weiterlesen
  • 06 12/2023
    Die besten Tech-Gadgets zum Fest

    Vom datenschutzsicheren Handy bis zur elektrischen Miniluftpumpe: Unsere IT-Experten empfeh-len die besten Tech-Geschenke zum Fest!...

    Weiterlesen
  • 01 11/2023
    Erweiterter Spam- und Virenschutz: Lohnt sich ATP für mein Unternehmen?

    Braucht mein Business Virenschutz durch Advanced Threat Protection? IT-Spezialist Ansgar Licher klärt auf. Im Check: Hornetsecurity. Jetzt im Video!...

    Weiterlesen
  • 04 10/2023
    Veränderungen erklären: Die 5 wichtigsten Erfolgsfaktoren, damit Change- und IT-Projekte gelingen

    Läuft Ihr Veränderungs- und IT-Projekt nicht wie geplant? Dann liegt es relativ häufig an der fehlenden oder falschen Kommunikation. 5 Erfolgs-Tipp...

    Weiterlesen

NEWSLETTER

Melden Sie sich für unseren informativen Newsletter an.
Jeden 1. Donnerstag im Monat informieren wir Sie über spannende Themen aus der IT-Welt.