Der AI Act kommt
Der AI Act ist da. Was Du jetzt wissen musst.
Was ist der AI Act?
Der AI Act ist eine Verordnung der Europäischen Union mit dem Thema Künstliche Intelligenz. Er gilt für jede Nutzung von KI in der EU und dort, wo Menschen in der EU betroffen sind. Diese wegweisende Initiative bringt die Europäische Union an die Spitze von KI-Regulierung und -Innovation.
Übergeordnetes Ziel des Gesetzes ist der Schutz von Gesundheit, Sicherheit und Grundrechten des Einzelnen, wenn KI-Produkte auf den Markt kommen. Die Gesetzgebung verfolgt dabei einen risikobasierten Ansatz und teilt die Nutzung von KI in die Kategorien „inakzeptables Risiko“, „hohes Risiko“, „allgemeine KI“, „begrenztes Risiko“ und „minimales Risiko“.
Ziel des AI Act ist ein einheitlicher Rahmen für die Schaffung, Verbreitung, Nutzung und Einführung von KI. Er ersetzt bestehende nationale KI-Vorschriften und macht es für Unternehmen einfacher und rechtlich sicherer, in der gesamten EU tätig zu sein. Er trat am 12. Juli 2024 in Kraft, mit Übergangsfristen zwischen 6 und 36 Monaten.
“Unser Ziel als Retorio ist es, Menschen zu stärken. KI betrachten wir in erster Linie als eine großartige Chance, den Zugang zu persönlicher Weiterentwicklung zu demokratisieren und allen die Chance zu geben, nützliche Fähigkeiten und Verhaltensweisen für den Beruf zu entwickeln. Als Unternehmen, das sich seit jeher an strenge ethische Grundsätze hält, ändert sich für Retorio durch das neue KI-Gesetz nicht viel. Das Gleiche gilt natürlich auch für Kund:innen, die unsere Plattform nutzen.”
Dr. Christoph Hohenberger , Co-founder bei Retorio
Wie steht Retorio zum KI-Gesetz?
Wir bei Retorio glauben, dass Innovation Regeln braucht. Um Benutzer:innen und Daten zu schützen, benötigen wir ein Nebeneinander von Ethik, Flexibilität und Klarheit.
Retorio möchte eine entscheidende Rolle in einer innovativen Zukunft von KI-Governance, Privatsphäre und Datenschutz spielen und Kund:innen und Stakeholdern Vertrauen und Sicherheit bieten.
Aus diesem Grund besuchte Christoph Hohenberger, Co-CEO der Retorio GmbH, bereits im März 2023 die AI and Data Acts-Konferenz in Brüssel und beteiligte sich an der Diskussion über die neuen KI- und Datenvorschriften in Europa.
Ja. Retorio ist zu 100 % konform mit der neuen KI-Gesetzgebung der EU. Retorio verwendet weder biometrische Daten, um Personen zu erkennen, noch ist es ein "Emotionserkennungssystem", wie das Gesetz es nennt. Siehe hier, insbesondere die Definition in Punkt 18: eur-lex.europa.eu
Retorio hat sich, unabhängig von der eingesetzten Technologie, stets konsequent an die bestehenden Vorschriften gehalten, darunter das AGG (Allgemeines Gleichbehandlungsgesetz) und natürlich den neuen AI Act.
Retorios Ziel ist es, den Zugang zu Wissen und sinnvollem Coaching in psychologisch sicheren Umgebungen zu demokratisieren. Bei uns geht es nicht darum, Daten zu sammeln, sondern Menschen zu befähigen. Um das zu erreichen, kombinieren wir psychologische Forschung mit unserer hochentwickelten künstlichen Intelligenz. So schaffen wir skalierbare Lösungen, die Wachstum und Erfolg ermöglichen.
Jetzt und in Zukunft sind wir bestrebt, alle zukünftigen regulatorischen Anforderungen zu erfüllen. Von Anfang an haben wir auf der Grundlage von drei Grundprinzipien gearbeitet. Diese Grundsätze unterstreichen unser unerschütterliches Bekenntnis zu ethischen Praktiken und der Einhaltung gesetzlicher Vorschriften.
Als Retorio-Kunde brauchst Du Dir keine Sorgen zu machen.
Die Plattform von Retorio entspricht vollständig allen bestehenden EU-Vorschriften und wir erwarten keine Probleme mit dem bevorstehenden KI-Gesetz.
Prinzip |
Retorios Ansatz |
|
Relevanz der erfassten Daten |
Wir erfassen und analysieren nur Daten, die empirisch untersucht wurden und die relevant sind. |
|
Robustheit des Modells |
Unsere Modelle werden anhand wissenschaftlich fundierter Testdaten untersucht und internen Leistungs- und Qualitätsprüfungen unterzogen. |
|
Ethik |
Der Einsatz und die Nutzung der Technologie folgen den ethischen Richtlinien für die Entwicklung vertrauenswürdiger KI, wie sie von der EU vorgeschlagen wurden (Link). |
Im Mittelpunkt steht bei uns immer die Idee, Menschen zu fördern. Daher verbirgt die Plattform von Retorio niemals Daten vor den Benutzer:innen – alles ist transparent.
Es gibt keine automatisierte Entscheidungsfindung, das System ist nicht selbstlernend und es aktualisiert sich nicht automatisch.
Die Retorio GmbH selbst ist offiziell ISO-zertifiziert und hat zahlreiche strenge Tests in Bezug auf Mitarbeiterschulung, Prozesse und Datenschutz absolviert. Zur Aufrechterhaltung der Zertifizierung wird das Unternehmen kontinuierlich nach den Regeln der ISO-Auditoren überprüft.
Die Hardware-Plattform, auf der das System läuft, wird in der EU auf ebenfalls ISO-zertifizierten Servern gehostet. Zur Überprüfung der Robustheit werden vierteljährlich Penetrationstests durchgeführt.
Um Datenverlust zu verhindern, sind Notfallwiederherstellungspläne in Kraft. Der Zugriff auf die Plattform ist nur autorisierten Benutzer:innen gestattet.
Alle Daten auf der KI-Plattform von Retorio können aus dem System heraus gelöscht werden. Die Angabe personenbezogener Daten ist optional, die Plattform funktioniert komplett ohne personenbezogene Daten, beispielsweise durch eine vollständige Anonymisierung (z.B. mit Hilfe von Token-Login).
Die Plattform von Retorio ist vollständig transparent, indem sie jeden Teilnehmenden darüber informiert, dass ein KI-System verwendet wird.
Von Diskriminierung spricht man, wenn eine Person schlechter behandelt wird als eine andere. Diskriminierung kann unter anderem auf Geschlecht, Hautfarbe, ethnischer Zugehörigkeit, sexueller Orientierung, Alter und Behinderung basieren.
Ein Problem kann in den Daten liegen, mit denen Algorithmen trainiert werden und darin, welche Datenpunkte gesammelt werden. Retorio geht diesen Punkt auf zwei Arten an:
Erstens wird die KI von Retorio anhand demografisch unterschiedlicher Datensätze trainiert. Und diese Datensätze werden ständig durch wissenschaftliche Tests überprüft.
Zweitens erfasst das KI-Coaching von Retorio keine der genannten Diskriminierungen. Sie sind als Datenpunkte für die Plattform weder relevant noch nutzbar oder auch nur vorgesehen: Die Plattform ist buchstäblich blind dafür.
Die Tatsache, dass Retorio die Eigenschaften der Nutzer:innen nicht erfasst, ja nicht einmal weiß, wer es verwendet, bedeutet, dass die Coaching-Plattform weniger voreingenommen ist, als es ein Mensch sein kann.
Retorio hat es sich zur Aufgabe gemacht, den Zugang zu nützlichem Wissen und Coaching für Beruf und Karriere zu demokratisieren. Wir möchten, dass alle Zugang zu den besten verfügbaren beruflichen Schulungen haben, damit sie nicht nur bessere Leistungen erbringen, sondern auch mehr Freude an der Arbeit haben. Dadurch, dass das Coaching individuell und über PC, Tablet oder Smartphone gemacht werden kann, entfallen teure und umweltbelastende Reisen.
Um möglichst vielen Menschen ein optimales Coaching zu ermöglichen, ist es für uns selbstverständlich, Software barrierefrei zu erstellen und zu gestalten.
Wir halten uns an § 4 BGG: „Barrierefrei sind bauliche und sonstige Anlagen, Verkehrsmittel, technische Gebrauchsgegenstände, Systeme der Informationsverarbeitung, akustische und visuelle Informationsquellen und Kommunikationseinrichtungen sowie andere gestaltete Lebensbereiche, wenn sie für Menschen mit Behinderungen in der allgemein üblichen Weise, ohne besondere Erschwernis und grundsätzlich ohne fremde Hilfe auffindbar, zugänglich und nutzbar sind.“
Um eine barrierefreie Nutzung sicherzustellen, führen wir regelmäßig Nutzer- und Plattformtests durch. Dazu gehören auch Software-Ergonomietests, wie z.B. Maßnahmen, um die Lesbarkeit für Menschen mit Beeinträchtigungen bei der Farbwahrnehmung zu gewährleisten. Wir halten uns an internationale Entwicklungsstandards wie die WCAG.
Die Plattform von Retorio ist nach klaren Rollen organisiert, um Überschneidungen und Interessenkonflikte zu vermeiden. Alle Mitarbeitenden müssen eine DSGVO-Schulung absolvieren, Datenschutzbeauftragte sind externe Spezialist:innen, die mit niemandem innerhalb der Organisation verbunden sind.
Nein. Die Plattform führt keine biometrische Analysen durch und wir sind auch für die Zukunft nicht an einer persönlichen Identifizierung von Nutzenden interessiert.
Nach Angaben des Bundesbeauftragten für den Datenschutz und die Informationsfreiheit definiert die Datenschutz-Grundverordnung (DSGVO) „biometrische Daten“ als “mit speziellen technischen Verfahren gewonnene personenbezogene Daten zu den physischen, physiologischen oder verhaltenstypischen Merkmalen einer natürlichen Person, die die eindeutige Identifizierung dieser natürlichen Person ermöglichen oder bestätigen, wie Gesichtsbilder oder daktyloskopische Daten.” (vgl. Art. 4, Nr. 14 DSGVO).
Retorio dient nicht der Identifizierung einer Einzelperson und erfasst keine physischen, physiologischen oder Verhaltensmerkmale, die zur Identifizierung einer Einzelperson herangezogen werden könnten. Die KI-Plattform von Retorio kann keine Nutzer:innen anhand von Videos oder anderen Daten wiedererkennen – und das ist auch kein Ziel für die Entwicklung.
Nein. Der KI-Coach von Retorio hilft Mitarbeitenden zu verstehen, wie sich ihr Verhalten auf Kundenbeziehungen auswirkt. Die Plattform gibt personalisiertes Feedback zum Verhalten der Mitarbeitenden, basierend darauf, wie freundlich oder seriös sie auf die simulierten Kund:innen reagieren und was sie in Bezug auf Kommunikation gut machen oder verbessern können.
Die zugrunde liegende KI erkennt jedoch keine Emotionen und versucht dies auch nicht. Die KI registriert lediglich Gesichtsausdrücke, beispielsweise ein Lächeln.
Mit Retorio können Mitarbeitende KI-Coaching in einer psychologisch sicheren Umgebung erleben. Der KI-Coach von Retorio beeinflusst weder den mentalen Zustand der Nutzer:innen noch erkennt er Emotionen, Gefühle oder psychologische Zustände.
Wir sammeln keine Datenbanken aus externen Quellen (z. B. Bilder aus dem Internet oder CCTV-Aufnahmen) und versuchen auch nicht, Datenbanken daraus aufzubauen.
Nein. Retorio konzentriert sich nur auf das beobachtete Verhalten der Benutzer:innen (z.B. ob sie die simulierten Kund:innen anlächeln oder ernst ansehen).
Die KI versteht nicht, ob Lernende tatsächlich glücklich oder traurig sind, und versucht auch nicht, dies zu verstehen, da das für den Zweck des Coachings irrelevant ist. Da das System die Emotionen der Mitarbeitenden nicht versteht, kann es auch keinen Versuch geben, Emotionen zu beeinflussen oder zu kontrollieren. Der Unterschied wird im Gesetzestext des AI-Gesetzes ausdrücklich angesprochen.
Nein. Es geht uns nicht darum, Menschen zu „kontrollieren“, sondern darum, Menschen zu befähigen. Die Plattform wird nur für Schulungen genutzt, um Menschen dabei zu helfen, ihre Arbeit besser zu erledigen.
Wir können derzeit und beabsichtigen auch nicht, die individuelle Leistung von Menschen am Arbeitsplatz zu überprüfen.
Hier klicken 
, um die gesamten FAQs zu sehen
What problems does Retorio actually solve?
Retorio is used in HR to support companies in the selection and development of employees. Research suggests that HR-decisions are strongly influenced by subconscious factors and biases. The great importance of gut feelings on the part of decision-makers often leads to unequal treatment, unnecessary workload, and bad hiring decisions.
Prevent unequal treatment in HR processes
Talents are still discriminated against on the basis of their skin color, religion, and culture. For instance, based on a field experiment, a 2018 study by WZB shows that black and white applicants are treated significantly differently, even when they apply with identical CVs.
Retorio ensures that only factors that are within the control of the applicant are included in the results. We actively debias our datasets and models to ensure Retorio does not see skin color, gender, or age.
Moreover, Retorio does not consider a person's dialect, the background of an application video, hair color, etc. For humans, avoiding these factors is substantially more difficult.
Reduce recruiter workload, improve interview quality
Overworked HR departments often have little time to prepare for and follow up on their interviews. In their accelerated workday, decision makers need to rely on their intuition which might be subject to biases.
Whereas in the past only a fraction of all applicants were able to introduce themselves in person, Retorio provides each individual with an opportunity to introduce himself or herself and to show exactly what a resume does not reveal: who he or she is.
Recruiters have access to all video applications and form their own judgment. They only meet with candidates who really stand a chance and have access to meaningful data to prepare for the interview.