In einer wissenschaftlichen Studie wurde die Effektivität von KI-gestützten Phishing-Angriffen untersucht. Die Ergebnisse sind beunruhigend und zeigen dringenden Handlungsbedarf für Unternehmen auf. Kernpunkte der Studie: 👉 KI-generierte Phishing-E-Mails erreichten eine Erfolgsquote von 54%, gleichauf mit menschlichen Experten 👉 Vollautomatisierte KI-Angriffe waren genauso effektiv wie solche mit menschlichem Eingreifen 👉 KI-Tools konnten in 88% der Fälle akkurate und nützliche Informationen über Zielpersonen sammeln 👉 Die Wirtschaftlichkeit von Phishing-Angriffen steigt durch KI-Einsatz um das bis zu 50-fache 👉 Aktuelle KI-Modelle können Phishing-E-Mails mit einer Genauigkeit von über 97% erkennen Fazit für die Praxis: Die Studie verdeutlicht die wachsende Bedrohung durch KI-gestützte Phishing-Angriffe für Unternehmen. Die hohe Erfolgsquote und Wirtschaftlichkeit dieser Angriffe erfordern dringend neue Schutzmaßnahmen. Unternehmen müssen ihre Cybersicherheitsstrategien überdenken und ggf. KI-basierte Erkennungssysteme implementieren. Gleichzeitig bleibt eine verstärkte Sensibilisierung und Schulung der Mitarbeiter unerlässlich. Rechtlich betrachtet, ergeben sich neue Herausforderungen im Bereich der IT-Sicherheit. Der Bedrohungslage durch KI-generierte Angriffe ist Rechnung zu tragen. Unternehmen müssen sicherstellen, dass sie angemessene technische und organisatorische Maßnahmen zum Schutz ihrer Systeme aber auch der dort verarbeiteten personenbezogener Daten treffen. Die Verwendung von KI zur Erkennung von Phishing-Angriffen kann dabei helfen, den Anforderungen zum Stand der Technik gerecht zu werden. Gleichwohl müssen auch bei solchen Tools für und wieder gegeneinander abgewogen werden - Thema crowdstrike. Als auf IT-Recht und Datenschutz spezialisierte Kanzlei unterstützen wir Sie auch im IT-Sicherheitsrecht und bei der rechtssicheren Implementierung von KI-gestützten Sicherheitsmaßnahmen und der Anpassung Ihrer Datenschutz- und IT-Sicherheitskonzepte. Kontaktieren Sie uns für eine maßgeschneiderte Beratung zur Absicherung Ihres Unternehmens gegen moderne Cyber-Bedrohungen.

Die OECD hat in ihrem aktuellen Bericht "Assessing Potential Future Artificial Intelligence Risks, Benefits and Policy Imperatives" vom November 2024 ihre Erkenntnisse zu künftigen KI-Entwicklungen zusammengefasst: Zentrale Punkte: 10 prioritäre KI-Chancen identifiziert, u.a.: Beschleunigter wissenschaftlicher Fortschritt Besseres Wirtschaftswachstum und höhere Produktivität Reduzierung von Ungleichheit und Armut Verbesserte Entscheidungsfindung und Prognosen 10 prioritäre KI-Risiken benannt, darunter: Erleichterung ausgeklügelter Cyberangriffe Manipulation, Desinformation und Betrug Mangelnde Investitionen in KI-Sicherheit Machtkonzentration bei wenigen Unternehmen/Ländern 10 vorrangige politische Handlungsfelder definiert, z.B.: Klarere Haftungsregeln für KI-Schäden Offenlegungspflichten für bestimmte KI-Systeme Risikomanagement für potenziell gefährliche KI Investitionen in KI-Sicherheitsforschung Fazit für die Praxis:Für Unternehmen ergeben sich aus dem OECD-Bericht wichtige Handlungsimplikationen. Sie sollten proaktiv Chancen der KI-Nutzung in Bereichen wie Produktivitätssteigerung, Entscheidungsunterstützung und Innovation ausloten. Gleichzeitig gilt es, potenzielle Risiken wie Cybersicherheit oder ethische Fragen frühzeitig zu adressieren. Unternehmen sind gut beraten, interne Kompetenzen für verantwortungsvolle KI-Nutzung aufzubauen und sich an der Entwicklung von Branchenstandards zu beteiligen. Eine vorausschauende Auseinandersetzung mit künftigen regulatorischen Anforderungen, etwa zu Transparenz oder Risikomanagement, kann zudem Wettbewerbsvorteile sichern. Insgesamt unterstreicht der Bericht die Notwendigkeit einer strategischen und verantwortungsvollen Herangehensweise an KI-Technologien.

Es ist davon auszugehen, dass dies die Zukunft der KI-Entwicklung und -Nutzung in der EU maßgeblich prägen. Hier die Kernpunkte für Sie zusammengefasst: 🔹Ziel: Schaffung eines Rahmenwerks für die Entwicklung und den Einsatz von KI-Systemen unter Berücksichtigung von Sicherheit, Ethik und Grundrechten 🔹 Geltungsbereich: Anbieter von General-Purpose AI Modellen, insbesondere solche mit systemischem Risiko 🔹 Zentrale Verpflichtungen: • Erstellung und Aktualisierung technischer Dokumentation • Bereitstellung von Informationen für nachgelagerte Anbieter • Implementierung einer Copyright-Policy • Durchführung von Risikoanalysen und -bewertungen • Umsetzung technischer und organisatorischer Risikominderungsmaßnahmen 🔹 Transparenz: Umfangreiche Dokumentations- und Offenlegungspflichten gegenüber Behörden und nachgelagerten Anbietern 🔹 Copyright: Besonderer Fokus auf die Einhaltung des EU-Urheberrechts, insbesondere bei der Nutzung geschützter Werke für das Training von KI-Modellen 🔹 Risikomanagement: Kontinuierliche Bewertung und Minderung systemischer Risiken auf EU-Ebene 💡 Praxisrelevanz für Unternehmen:Der Code of Practice wird erhebliche Auswirkungen auf Unternehmen haben, die KI-Systeme entwickeln oder einsetzen. Es ist entscheidend, frühzeitig Compliance-Strukturen aufzubauen und interne Prozesse anzupassen. Besonders wichtig sind: • Aufbau von Expertise im KI-Risikomanagement • Implementierung robuster Dokumentationssysteme • Überprüfung und Anpassung von Datenschutz- und Copyright-Richtlinien • Schulung von Mitarbeitern zu den neuen Anforderungen • Etablierung von Prozessen zur kontinuierlichen Risikobewertung und -minderung

Hier die wichtigsten Erkenntnisse für Unternehmen: Fairness: KI-Systeme müssen auf Genauigkeit und Voreingenommenheit überwacht werden. Inferred Daten sind oft nicht ausreichend präzise. Transparenz: Kandidaten müssen klar informiert werden, wie ihre Daten durch KI verarbeitet werden. Datensparsamkeit: Es sollten nur die absolut notwendigen personenbezogenen aten erhoben und verarbeitet werden. Datenschutz-Folgenabschätzungen: Diese sind vor dem KI-Einsatz durchzuführen und regelmäßig zu aktualisieren. Verantwortlichkeiten: Die Rollen von Datenverantwortlichen und Auftragsverarbeitern müssen klar definiert sein. Verarbeitungsanweisungen: Recruiter müssen präzise Anweisungen zur Datenverarbeitung geben. Rechtsgrundlagen: Für jede Verarbeitung muss eine Rechtsgrundlage identifiziert und dokumentiert werden. Fazit für die Praxis:Der Einsatz von KI in der Personalbeschaffung bietet aus Unternehmenssicht große Chancen, birgt aber auch rechtliche Risiken. Das gilt im Übrigen auch für Backgroundchecks etc. Die Aussagen im Paper zeigen, dass man beim Einsatz von KI die Datenschutz-Compliance nicht unterschätzen sollte. Um die oben genannten Punkte erfüllen zu können, muss man ersteinmal einen guten Überblick über das Tool haben. Hier gilt aus Sicht der Verantwortlichen Vertrauen ist gut Kontrolle ist besser. Hinterfragen Sie die Unterlagen, die Sie vom Dienstleister bekommen und prüfen Sie diese auf Schlüssigkeit. Gehen Sie nicht davon aus, dass der Anbieter Ihre Aufgaben im Rahmen der Compliance erledigt.

Die GEMA hat eine wegweisende Klage gegen OpenAI eingereicht. Hier die Kernpunkte: • Erste weltweite Klage einer Verwertungsgesellschaft gegen einen KI-Anbieter wegen unlizenzierter Nutzung geschützter Musikwerke • Vorwurf: Systematische Verwendung von GEMA-Repertoire zum KI-Training ohne Lizenzen oder Vergütung • Ziel: Durchsetzung fairer Vergütung für Urheberinnen und Urheber im KI-Kontext Diese Klage markiert einen interessanten Moment im Urheberrecht des digitalen Zeitalters. Sie wirft die grundlegende Fragen auf: Wie definieren wir geistiges Eigentum in der KI-Ära? Welche Rechte haben Kreativschaffende gegenüber KI-Unternehmen? Wie kann eine faire Vergütung in der KI-Wertschöpfungskette aussehen? Als FA für gewerblichen Rechtsschutz und FA für IT-Recht Experten beobachte ich diese Entwicklung genau. Meine Kanzlei steht bereit, um Kreativschaffende, Unternehmen und Technologieanbieter in dieser sich schnell wandelnden Rechtslandschaft zu beraten. Haben Ihr Fragen zu den rechtlichen Implikationen von KI in Ihrem Geschäftsbereich? Kontaktiert mich gerne für eine erste Einschätzung. Lasst uns gemeinsam die Zukunft des geistigen Eigentums gestalten. https://www.gema.de/de/w/gema-erhebt-klage-gegen-openai