Embeddings

Computer lieben Zahlen, aber sie hassen vage Wörter wie „Gemütlichkeit“ oder „Sehnsucht“. Die Lösung heißt Embeddings – die geheimen Übersetzer der Künstlichen Intelligenz.

Durchbruch bei der Entwicklung von Embeddings durch ein Google-Team mit Word2Vec. Ein Team mit Tomas Mikolov konnte riesige Textmengen extrem schnell verarbeiten und machte Embeddings massentauglich.

Ein Embedding nimmt ein Wort, ein Bild oder ein Lied und verwandelt es in einen digitalen Fingerabdruck aus Hunderten von Zahlen. Das Geniale daran: Wörter mit einer ähnlichen Bedeutung bekommen ähnliche Zahlen. Für die KI liegen „Kaffee“ und „Tee“ im digitalen Raum direkt nebeneinander, während „Auto“ ganz weit weg parkt.

Ob Google-Suche, Spotify-Empfehlungen oder ChatGPT – Embeddings sorgen im Hintergrund dafür, dass Maschinen uns endlich nicht mehr nur wortwörtlich, sondern sinngemäß verstehen.