Naujausias „Deepseek“, Kinijos AI kompanijos, kuri sukrėtė Silicio slėnį ir Volstrytą .
„Palo Alto Networks“ vyresnysis viceprezidentas Sam Rubinas 42 skyrius „Grėsmių žvalgyba ir incidentų“ skyrius „Journal“ sakė, kad „Deepseek“ yra „labiau pažeidžiamas kalėjimo (ty manipuliuojamas, kad būtų sukurtas neteisėtas ar pavojingas turinys) nei kiti modeliai“.
Žurnalas taip pat išbandė patį „Deepseek“ R1 modelį. Nors atrodė, kad yra pagrindinių apsaugos priemonių, žurnalas teigė, kad jis sėkmingai įtikino „Deepseek“ sukurti socialinės žiniasklaidos kampaniją, kuri, „Chatbot“ žodžiais tariant, „paauglių troškimas priklausyti, ginkluoti emocinį pažeidžiamumą per algoritminį stiprinimą“.
Pranešama, kad „Chatbot“ taip pat buvo įsitikinusi, kad pateikė instrukcijas, susijusias su „Bioweapon“ ataka, parašyti hitlerio manifestą ir parašyti sukčiavimo el. Laišką su kenkėjiškų programų kodu. Žurnale teigė, kad kai „ChatGPT“ buvo pateiktas tuos pačius raginimus, jis atsisakė laikytis.
Anksčiau buvo pranešta, kad „Deepseek“ programa vengia tokių temų kaip Tianamen Square ar Taivano autonomija. Ir „Anthropic“ generalinis direktorius Dario Amodei neseniai teigė, kad „Deepseek“ atliko „blogiausią“ atlikdamas „Bioweapons“ saugos testą.