Wie Firmen mit KI Chats zwischen Angestellten ausspähen

Künstliche Intelligenz (KI) beeinflusst, wie Unternehmen arbeiten und das auf vielen verschiedenen Ebenen. Einen aus Mitarbeiter*innensicht eher problematischen Dienst bietet das Start-up Aware aus den USA an.

Das Unternehmen aus Columbus (Ohio) bietet laut eigenen Angaben eine „Kontext-Intelligence-Plattform, die Risiken identifiziert und mindert, Sicherheit und Compliance stärkt und Echtzeit-Insights aus digitalen Gesprächen aufzeigt”. Weniger sperrig ausgedrückt: Aware analysiert Unterhaltungen der Angestellten auf Plattformen wie Slack oder Teams und extrahiert per KI Informationen daraus. 

Mehrere US-Firmen wie T-Mobile, Starbucks oder Walmart haben Aware laut einem Bericht von CNBC bereits im Einsatz. Auch Nestle oder AstraZeneca nehmen die Dienste des Start-ups in Anspruch. 

Das Produkt des Unternehmens verspricht, Empfindungen bzw. Stimmungen sowie Toxizität erkennen zu können. So soll analysiert werden, was Mitarbeiter*innen besprechen und welche Emotionen dadurch ausgelöst werden. 

Anonymisiert mit mehreren Haken

Die Daten sind zwar zum Teil anonymisiert, jedoch können die Quellen mit Tags versehen werden. Etwa zu Jobrollen, Alter oder Geschlecht. So kann dann schlussendlich herausgefiltert werden, wie ein bestimmter Kreis an Mitarbeiter*innen über aktuelle Ankündigungen oder Änderungen im Unternehmen denkt. Auch wenn keine Namen ausgewertet werden, ist es so zumindest denkbar, dass vor allem in kleineren Abteilungen schnell klar wird, aus welcher Ecke welche Unterhaltung stammt.

Wahlweise bietet Aware mit dem Tool ​​eDiscovery auch an, dass bestimmte Vertreter*innen des Unternehmens (zum Beispiel die HR-Abteilung) auch die Konversationen zu einzelnen Mitarbeiter*innen zurücktracken können. Und zwar dann, wenn in den Unterhaltungen ein “extremes Risiko” erkannt wird. Dazu kann etwa Mobbing oder die Androhung von Gewalt stehen. 

CEO Jeff Schuman sagte gegenüber CNBC: “Es trackt die Stimmung immer in Echtzeit”. Er nennt das Beispiel einer Bank. Das Tool des Unternehmens könne der Führungsriege etwa sagen, dass sich die Stimmung der Mitarbeiter*innen in den letzten 20 Minuten plötzlich stark angehoben hätte. Die Software könne dann extrahieren, worüber gesprochen wurde bzw. was dafür verantwortlich war. 

Rechtslage in Österreich zumindest fraglich

Ob die Nutzung eines derartigen Tools in Österreich überhaupt zulässig ist, ist mindestens fraglich. Für einen früheren Artikel darüber, ob Arbeitgeber Chats von Mitarbeiter*innen mitlesen können, hat die futurezone bei Expert*innen nachfragt. 

“Ein laufendes Mitlesen oder gar eine permanente Überwachung von Nachrichten ist sowohl arbeits- wie auch datenschutzrechtlich unzulässig”, erklärte die Anwältin Lisa Kulmer von der DORDA Rechtsanwälte GmbH damals.

➤ Mehr lesen: Kann mein Chef bei Microsoft Teams oder Slack mitlesen?

Allerdings gibt es auch eine Einschränkung: “Gibt es einen konkreten, erhärteten Verdacht eines Complianceverstoßes oder gar einer Straftat, ist eine punktuelle Einsichtnahme denkbar”, so der Anwalt Nino Tlapak von DORDA auf die Anfrage damals.