Leitlinien zur Verwendung von ChatGPT
Künstliche Intelligenz war im Jahr 2023 in aller Munde. ChatGPT und ähnliche Systeme können die Arbeit erleichtern – sie bergen aber auch Risiken. Die Staatskanzlei hat hierzu Leitlinien für die Mitarbeitenden der Verwaltung erstellt.
Was ist ChatGPT?
Zusammenfassungen schreiben, Bilder generieren, Texte übersetzen – ChatGPT und ähnliche textverarbeitende Systeme, die auf künstlicher Intelligenz (KI) basieren, können für verschiedene Aufgaben eingesetzt werden. Solche Systeme sind für die Öffentlichkeit meist kostenfrei zugänglich. Andere bekannte Anwendungen nebst ChatGPT sind zum Beispiel DeepL oder DALL-E.
Chancen und Risiken
Textverarbeitende KI-Systeme haben grosses Potenzial, da sie Menschen Arbeit abnehmen können, die sonst sehr viel Zeit in Anspruch nimmt. Solche Systeme bergen aber auch gewichtige Risiken in der Anwendung. So sind beispielsweise die Nachvollziehbarkeit und die Transparenz der Textausgaben nicht gewährleistet. Zudem können bei einer Texteingabe gesetzlich statuierte Geheimhaltungspflichten (Amts- oder Berufsgeheimnisse) oder der Datenschutz verletzt werden.
Verwendung in der Verwaltung
Aus Sicht der Regierung ist sicherzustellen, dass Mitarbeitende der Verwaltung solche Systeme im Arbeitsalltag mit der notwendigen Sorgfalt nutzen und die geltenden gesetzlichen Vorgaben einhalten. Ein absolutes Verbot der Verwendung dieser Technologien bzw. die Vornahme entsprechender technischer Einschränkungen (Verwehrung des Zugriffs) erscheint indessen weder zweckmässig noch zukunftsgerichtet. Das Augenmerk soll auf einen sachgerechten und verantwortungsbewussten Umgang mit diesen Systemen gelegt werden.
Die Regierung hat deshalb zusammen mit dem Vorstand der Vereinigung St.Galler Gemeindepräsidentinnen und Gemeindepräsidenten (VSGP) am 31. August 2023 bzw. am 5. September 2023 Leitlinien über die Verwendung von ChatGPT und ähnlichen Systemen verabschiedet, um den Mitarbeitenden ein zweckmässiges Hilfsmittel an die Hand zu geben. Diese hatte die Staatskanzlei erarbeitet.
Der Kanton St.Gallen hat als erstes Gemeinwesen schweizweit Leitlinien zur Nutzung von KI verabschiedet und veröffentlicht.
KI-Strategie
Eine vertiefte Auseinandersetzung zum Umgang mit KI in der Staatsverwaltung erfolgt im Rahmen der Bearbeitung des Auftrags zur Erarbeitung einer KI-Strategie, den der Kantonsrat in der Sommersession 2023 mit dem Kantonsratsbeschluss über die Rechnung 2022 (33.23.01) erteilt hat.
Was geht und was geht nicht?
Die neuen Leitlinien zur Verwendung von ChatGPT und anderen KI-Systemen in der Staatsverwaltung geben Orientierung, was erlaubt ist und was nicht. Sie sind im Internet abrufbar.
