Prompt

Das Gabler Wirtschaftslexikon ordnet den Prompt der generativen KI KI Künstliche Intelligenz (KI) bezeichnet Computersysteme, die Aufgaben lösen, für die ein Mensch Intelligenz braucht, etwa das Verfassen eines Textes oder das Einordnen einer Anfrage. Im Glossar lesen → zu und führt Anfrage, Aufforderung oder Anweisung als gleichbedeutende Begriffe an. Eine Studie zu generativen KI-Modellen des Bundesamts für Sicherheit in der Informationstechnik (BSI) versteht unter Prompts die Texteingaben, aus denen ein großes Sprachmodell Sprachmodell Ein Sprachmodell ist ein mit großen Textmengen trainiertes KI-Modell, das Texte verarbeitet und neue erzeugt, indem es wahrscheinliche Fortsetzungen vorhersagt. Im Glossar lesen → Text erzeugt.

Am Beispiel eines Chatbots zeigt die Studie, dass ein Sprachmodell nicht zwischen den Anweisungen des Herstellers und dem Prompt des Nutzers unterscheiden kann. Eine Nutzereingabe kann so die vorgegebenen Regeln außer Kraft setzen. Das BSI spricht hier von Prompt Injection, dem Einschleusen von Anweisungen über die Eingabe. Für KI-Agenten KI-Agent Ein KI-Agent ist ein Softwaresystem, das mit einem Sprachmodell und verbundenen Werkzeugen eigenständig handelt und Aufgaben in mehreren Schritten ausführt. Im Glossar lesen → beschreibt die Behörde einen weiteren Angriffsweg: Sie können versteckte Befehle in Webseiten, Dokumenten oder E-Mails als echte Anweisungen ausführen. Der Aufbau eines Prompts betrifft deshalb nicht nur die Textqualität, sondern auch die Sicherheit einer Anwendung.

Bei uns gehört der Prompt zu den Regeln Ihrer Anwendung und liegt deshalb in Ihrem System. Wie das aussieht, zeigt der Chatbot einer Wissensplattform für einen Pharmalogistiker Pharmalogistik Unter Pharmalogistik verstehen wir Lagerung, Transport und Lieferung von Arzneimitteln und weiterem Material der Pharmabranche. Im Glossar lesen → : Die Anwendung stellt seine Anweisungen in mehreren Stufen selbst zusammen. Das Automatisierungswerkzeug n8n n8n n8n ist ein Werkzeug zur Automatisierung von Geschäftsprozessen, das KI-Funktionen einbinden kann und sich auf eigener Infrastruktur betreiben lässt. Im Glossar lesen → reicht den fertigen Prompt nur weiter. Über einen eigenen Zugang sieht der Chatbot nur Inhalte, die nicht eingestuft und für alle angemeldeten Nutzer freigegeben sind.