מתקפות סייבר על מודלי שפה - עם נתן כץ ExplAInable podcast

Artwork

מדע Tamir Nave & Uri Goren Tamir Nave Uri Goren

A tartalmat a Tamir Nave & Uri Goren, Tamir Nave, and Uri Goren biztosítja. Az összes podcast-tartalmat, beleértve az epizódokat, grafikákat és podcast-leírásokat, közvetlenül a Tamir Nave & Uri Goren, Tamir Nave, and Uri Goren vagy a podcast platform partnere tölti fel és biztosítja. Ha úgy gondolja, hogy valaki az Ön engedélye nélkül használja fel a szerzői joggal védett művét, kövesse az itt leírt folyamatot https://hu.player.fm/legal.

ExplAInable « »
מתקפות סייבר על מודלי שפה - עם נתן כץ

6M ago 30:46

Megosztás

MP3•Epizód kép

A tartalmat a Tamir Nave & Uri Goren, Tamir Nave, and Uri Goren biztosítja. Az összes podcast-tartalmat, beleértve az epizódokat, grafikákat és podcast-leírásokat, közvetlenül a Tamir Nave & Uri Goren, Tamir Nave, and Uri Goren vagy a podcast platform partnere tölti fel és biztosítja. Ha úgy gondolja, hogy valaki az Ön engedélye nélkül használja fel a szerzői joggal védett művét, kövesse az itt leírt folyamatot https://hu.player.fm/legal.

מודלי שפה גדולים אמנם עוזרים לפרודקטיביות, אבל גם של ההאקרים.

עולם הסייבר השתנה רבות מאז יציאת ChatGPT - מומחים מעריכים שמספר הפריצות גדל פי ארבעה.

בפרק זה נתן כץ יסקור לנו ארבע שיטות לניצול חולשות במודל השפה עצמו.

נדבר על גניבת מודלים, ״הרעלה״ של סט האימון והרעשה של המודל לביאס עבור מילת אקטיבציה ספציפיתץ

נתן יחלוק לנו מתובנותיו בlumin AI על תהליך המכירה לCSO בארגון, ונדבר על ההבדלים בין סיכוני open source ל״משקולות פתוחים״
לקריאה נוספת:

https://owasp.org/www-project-machine-learning-security-top-10/
https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-2023-v05.pdf

… continue reading

116 epizódok

#מדע #Tamir Nave & Uri Goren #Tamir Nave #Uri Goren

Artwork

מתקפות סייבר על מודלי שפה - עם נתן כץ

20 subscribers

published 6M ago

Megosztás

MP3•Epizód kép

A tartalmat a Tamir Nave & Uri Goren, Tamir Nave, and Uri Goren biztosítja. Az összes podcast-tartalmat, beleértve az epizódokat, grafikákat és podcast-leírásokat, közvetlenül a Tamir Nave & Uri Goren, Tamir Nave, and Uri Goren vagy a podcast platform partnere tölti fel és biztosítja. Ha úgy gondolja, hogy valaki az Ön engedélye nélkül használja fel a szerzői joggal védett művét, kövesse az itt leírt folyamatot https://hu.player.fm/legal.

מודלי שפה גדולים אמנם עוזרים לפרודקטיביות, אבל גם של ההאקרים.

עולם הסייבר השתנה רבות מאז יציאת ChatGPT - מומחים מעריכים שמספר הפריצות גדל פי ארבעה.

בפרק זה נתן כץ יסקור לנו ארבע שיטות לניצול חולשות במודל השפה עצמו.

נדבר על גניבת מודלים, ״הרעלה״ של סט האימון והרעשה של המודל לביאס עבור מילת אקטיבציה ספציפיתץ

נתן יחלוק לנו מתובנותיו בlumin AI על תהליך המכירה לCSO בארגון, ונדבר על ההבדלים בין סיכוני open source ל״משקולות פתוחים״
לקריאה נוספת:

https://owasp.org/www-project-machine-learning-security-top-10/
https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-2023-v05.pdf

… continue reading

116 epizódok

#מדע #Tamir Nave & Uri Goren #Tamir Nave #Uri Goren

Minden epizód

×

Üdvözlünk a Player FM-nél!

A Player FM lejátszó az internetet böngészi a kiváló minőségű podcastok után, hogy ön élvezhesse azokat. Ez a legjobb podcast-alkalmazás, Androidon, iPhone-on és a weben is működik. Jelentkezzen be az feliratkozások szinkronizálásához az eszközök között.

Hallgasson 500+ témát

Hallgassa ezt a műsort, miközben felfedezi