Anfang dieser Woche hat Apple mit Siri AI eine Kombination aus Apple Intelligence und Siri angekündigt. Wie sich nun zeigt, hat Apple offenbar einen Warnhinweis ins System integriert, wenn Siri AI zu ausgiebig genutzt wird. Ob ihr dann allerdings eine Pause einlegt, entscheidet ganz alleine ihr.
Siri AI: Apple könnte Nutzer an Pausen erinnern
Siri AI ist ein deutlich leistungsfähigerer und dialogorientierterer Assistent mit einem Verständnis für Inhalte auf dem Display, den persönlichen Kontext und einem breiten Allgemeinwissen. Siri AI startet zunächst auf Englisch (weitere Sprachen sollen schnell folgen) und steht in der EU am Anfang nur unter macOS 27, visionOS 27 und watchOS 27 zur Verfügung.
Zu den Gefahren hinsichtlich dialogbasierter Chatbots gehört, dass manche Nutzer eine zu starke Bindung zu ihnen entwickeln oder lange Zeiträume damit verbringen, mit ihnen zu sprechen, als wären sie echte Menschen. Dies kann im Extremfall zu sogenannten KI-Psychosen führen.
Diese Sorge hat Unternehmen wie OpenAI, Anthropic und Google bereits dazu veranlasst, Sicherheitsmaßnahmen einzuführen, die die Nutzer an die Grenzen von KI-Begleitern erinnern und zu einem gesünderen Umgang damit anregen sollen. ChatGPT blendet zum Beispiel bei besonders langen Gesprächen Hinweise ein und animiert zu einer Pause.
Wie Entwickler Aaron Perris auf X entdeckt hat, enthält iOS 27 Codezeilen für eine „Pause-Nachricht“. Dies deutet darauf hin, dass Siri nach besonders langen Gesprächen eine Pausenerinnerung anzeigen könnte. Die Nachricht erinnert den Nutzer außerdem daran, dass Siri keine reale Person ist. Aktuell ist es nur ein Fundstück im Programmcode, allerdings gehen wir davon aus, dass Apple entsprechende Hinweise in die finale Version bringt.
0 Kommentare