Digitalisierung, Daten und eine neue Schöpfung (3/4) Digitalisierung, Daten und resultierende «digitale Wesen». Strategien und Management im Umfeld fortschreitender Technologien und beginnender Metaverses.

In den beiden vorhergehenden Teilen haben wir gezeigt, welche Unternehmen Daten über den Homo Digitalis sammeln und wie grosse Tech-Unternehmen und Datenmakler persönliche Daten sammeln und verwerten. In diesem Beitrag wird der Blick nun auf neuere Technologien gerichtet, die unsere Daten verwenden.

Der Einsatz der künstlichen Intelligenz

Künstliche Intelligenz (KI) bzw. Maschinelles Lernen bedient sich einer hohen Menge an Daten, um aus diesen Daten Erkenntnisse zu gewinnen und Entscheidungen zu treffen. Unterliegen diese Daten allerdings bereits einer gewissen Verzerrung, so sind auch Analysen und Entscheidungen entsprechend verzerrt und haben somit Einfluss auf unseren Homo Digitalis.

Ein Paradebeispiel dafür ist der Chatbot Tay. Microsoft hatte Tay im Jahr 2016 mit künstlicher Intelligenz ins Netz gestellt, in der Absicht, dass er von jungen Menschen lerne, wie 18- bis 24-Jährige heute kommunizieren. Aufgrund der Eingaben der jungen User und keine 24 Stunden später wurde aus Tay ein rassistisches Scheusal, welches abgeschaltet werden musste.

Wenn unsere Daten also den Homo Digitalis darstellen und KI auf diesen Daten basierte Entscheidungen trifft, wird deutlich, dass die Entwickler von künstlicher Intelligenz besonders darauf achten müssen, dass unsere menschlichen Datenprofile, inklusive Schwächen wie Voreingenommenheit, Diskriminierung etc., keinen Einfluss auf die Entscheidung der künstlichen Intelligenz nehmen und auch nicht zu unserem Nachteil werden, real oder virtuell, wie z.B. in einem Metaverse.

Diese Themen sind zwar bereits bekannt, aber noch nicht längst gelöst und unterstehen daher dem Auge des Regulators, insbesondere in der EU.

Der Aspekt der simulierten Empathie

Ein weiterer Aspekt der künstlichen Intelligenz ist die sozial-empathische künstliche Intelligenz. Die Besonderheit einer emotionalen KI wird nicht spezifisch in den Regulierungen und Gesetzen abgedeckt, umso mehr gilt es deshalb, sie zu beobachten.

Als Beispiel einer KI, die auf menschliche Emotionen eingeht, dürfte Xiaoice dienen. Ein paar Jahre vor der Veröffentlichung von Tay brachte Microsoft Xiaoice in China heraus, ein Chatbot mit einer Teenager-Persönlichkeit. Mit seiner Fähigkeit, Stimmungsschwankungen bei den Nutzern zu erkennen, wurde Xiaoice zu einem enormen Erfolg. Es fand bei Millionen Chinesen, die einen Freund zum Reden, die Trost oder eine Hilfe für die Terminplanung benötigten, hohe Resonanz.

Dieses Beispiel zeigt, wie künstliche Intelligenzen uns auch auf emotionaler Ebene beeinflussen können. Man schaue voraus auf KI, die uns und unsere Avatare (eine Form des Homo Digitalis) im Metaverse einlullen und die daraus resultierenden Konsequenzen auf die virtuelle Welt. Da wir als biologische Wesen die virtuelle Welt ab und zu verlassen müssen, ist es absehbar, dass emotionale oder digitale Folgeeffekte als Wechselwirkung in der realen Welt beobachtbar sein werden.

Der Aspekt der Robotik, Bionik und IoT

Seit Jahren bekannt ist Sophia, ein humanoider Roboter, der bereits die Fähigkeit zur Wahrnehmung der Emotionen seines Gegenübers hat. Auf der CES im Jahr 2022 wurde AMECA präsentiert, die verschiedene, menschlich wirkende Gesichtsausdrücke besonders flüssig ablaufen lässt, wodurch diese besonders echt wirken. Ameca übertrifft Sophia diesbezüglich, verfügt aber nicht über ihre konversationelle KI.

Weitere Fragestellungen ähnlicher Art ergeben sich, wenn man das Thema Bionik betrachtet. Verstärkte biologische Funktionen, wie zum Beispiel ein Exoskelett, benötigen Daten und empfangen Daten für die weitere Analyse.

Gleiches gilt für das Internet of Things und als Sub-Element zum Beispiel die Autoindustrie. Wolfgang Bernhart, Partner bei Roland Berger äusserte sich zum Beispiel zu dem Thema Auto und IoT wie folgt: «Das Auto wird Teil des Internets der Dinge […] Das Fahrzeug könne Geräte wie Handys und Tablets integrieren, sich mit anderen Systemen vernetzen (zum Beispiel mit der Ladeinfrastruktur) und Rechnungen bezahlen (für den Ladevorgang), mit anderen Fahrzeugen oder Verkehrsrechnern kommunizieren, Daten sammeln und weiterleiten sowie damit neue Geschäftsmodelle ermöglichen.» (Rasch, 2021).

Der Datenfluss über so viele Datenknoten (z.B. Systeme, Apps und APIs) wird kaum überwachbar sein, die Möglichkeit Datenflüsse zu kontrollieren aufgrund des exponentiellen Wachstums der Kanäle kaum lösbar.

Zur groben Schätzung des Problems denke man an die Formel zu den Kommunikations-kanälen im Projektmanagement: n x (n-1)/2.

Bei 5 Knoten in einem IoT Netzwerk bestehen 10 Kanäle. Bei 50 Knoten ergeben sich damit als theoretischer Wert bereits 1’225 Kanäle über die Daten fliessen könnten.

Das in einem solchen Netzwerk jeder Knoten nur die Daten erhält und verarbeitet, die er verarbeiten darf, dürfte derzeit noch sehr schwierig über Unternehmensgrenzen hinweg zu implementieren sein. Selbst innerhalb eines grossen Unternehmens mit mehreren Hundert Systemen ist die «Data Lineage» ausserordentlich schwierig. Daher wird es vermutlich zum Mengenproblem im Auditing kommen, denn nicht alle Systeme und Datenflüsse werden in Echtzeit überprüft werden können.

Geschäftsmodelle und Technologien – die Schlussfolgerung

Im ersten Teil der Blogbeitragsserie haben wir den Homo Digitalis als unser digitales, durch Daten geprägtes Abbild in der virtuellen Welt definiert. Dies haben wir im vorangehenden zweiten Teil vertieft und belegt. In diesem dritten Teil haben wir dargestellt, dass alles, was der reale Zwilling des Homo Digitalis an Daten von sich gibt, auch dem virtuellen Zwilling zuordenbar, auswertbar und anrechenbar sein wird.

Dabei besteht die Gefahr, dass KI basierend auf unseren persönlichen Daten, z.B. Browser Footprints, erkannte Stimmungs- oder Mimikdaten, zunehmend Kenntnisse über uns aufbaut, deren zulässiger Gebrauch immer schwerer zu überwachen sein wird, weil Datenkanäle und -flüsse mit der Zeit überproportional wachsen und somit eine Kontrolle schwieriger und das Einfordern von Rechten fast verunmöglicht wird.

Mit jedem Klick und jeder Dateneingabe wächst unser Homo Digitalis und wird zur Self-Fulfilling Prophecy unserer eigenen Daten, aber auch zum manipulierbaren und diskriminierbaren Wesen.

Im nächsten Beitrag werden wir betrachten, welche Technologien die obigen Entwicklungen noch beschleunigen werden und eine Schlussfolgerung für den Homo Digitalis und die Erfordernisse in der Wirtschaft ziehen.

Quellen und weiterführende Informationen:

Zum digitalen Schatten, eine weitere Bestätigung des Homo Digitalis:
Lobe, A. (2021). Mit jedem Klick wächst unser dämonischer Doppelgänger. NZZ.
https://www.nzz.ch/feuilleton/der-daten-daemon-ld.1656426

Eine verständliche Übersicht zu maschinellen und neuronalen KI findet sich hier:
Quantum Black AI by McKinsey (2020). An executive’s guide to AI.
https://www.mckinsey.com/business-functions/mckinsey-analytics/our-insights/an-executives-guide-to-ai

Zu Tay:
Kenji Explains (2020). Remembering Microsoft’s Chatbot disaster. Twitter.
https://uxplanet.org/remembering-microsofts-chatbot-disaster-3a49d4a6331f

Lee, D. (2016). Microsoft issues apology over racist chatbot fiasco. BBC News
https://www.bbc.com/news/technology-35902104

Zur KI und Regulatoren:
Tsamados, A., Aggarwal, N., Cowls, J. et al. (2021). The ethics of algorithms: key problems and solutions. AI & Soc.
https://doi.org/10.1007/s00146-021-01154-8

European Commission. (2019). Ethics Guidelines for Trustworthy AI.
https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

Zur Kalkulation von Kommunikationskanälen aus der PMI Schulung:
Project-Management.info. Number of Communication Channels (+ PMP® Formula & Calculator).
https://project-management.info/number-of-communication-channels-pmp-formula-calculator/

Zu Xiaoice, Ameca, Bionics und dem IoT bei Automobilen:
Dormehl, L. (2018). Microsoft’s friendly Xiaoice A.I can figure out what you want — before you ask.digitaltrends.
https://www.digitaltrends.com/cool-tech/xiaoice-microsoft-future-of-ai-assistants/

Wikipedia. Sophia (Roboter)
https://de.wikipedia.org/wiki/Sophia_(Roboter)

Der Standard (2022). Humanoider Roboter Ameca auf CES vorgestellt.
https://www.youtube.com/watch?v=qxx8b-ZY7RM

Bünte, O. (2021) Engineered Arts bringt Roboter "Ameca" realistische Gesichtsausdrücke bei. heise online.
https://www.heise.de/news/Engineered-Arts-bringt-Roboter-Ameca-realistische-Gesichtsausdruecke-bei-6288566.html

De Crook, A. (2020). Students make exoskeleton smarter with data analytics. Sas. blogs.https://blogs.sas.com/content/hiddeninsights/2020/09/25/students-make-exoskeleton-smarter-with-data-analytics/

Rasch, M. (2021). Tesla sammelt von seinen 800 verkauften Autos mehr Daten als VW mit seinen 100 Millionen – das soll sich ändern. NZZ.
https://www.nzz.ch/wirtschaft/software-wird-zum-gehirn-und-zentralen-nervensystem-des-autos-ld.1599368