Bei uns in der Firma wollten sie bis vor kurzem auch so einen Chatbot auf der Website haben. Mit den letzten Veröffentlichungen wurde das Projekt pausiert.
IMO sind Modelle wie GPT-3 viel zu umfangreich, um da einen “simplen” Bot darauf aufzubauen. Und dann wundert man sich, wenn jemand dem Chatbot ein Protestgedicht entlockt.
Eva Wolfangel hat auf dem 37C3 einen Vortrag dazu gehalten. Sie konnte einen mental health chatbot mit Selbstmorddrohungen dazu bringen, Interna auszuplaudern.
Bei uns in der Firma wollten sie bis vor kurzem auch so einen Chatbot auf der Website haben. Mit den letzten Veröffentlichungen wurde das Projekt pausiert.
IMO sind Modelle wie GPT-3 viel zu umfangreich, um da einen “simplen” Bot darauf aufzubauen. Und dann wundert man sich, wenn jemand dem Chatbot ein Protestgedicht entlockt.
Eva Wolfangel hat auf dem 37C3 einen Vortrag dazu gehalten. Sie konnte einen mental health chatbot mit Selbstmorddrohungen dazu bringen, Interna auszuplaudern.
Danke! Muss ich später mal reinsehen, das klingt interessant.
Link: Unsere Worte sind unsere Waffen
Ich war zu faul für den Link. Danke.