כיפת הברזל של מודלי השפה [עושים תוכנה]

עושים תוכנה Osim Tochna

תוכן מסופק על ידי PI Media and רשת עושים היסטוריה. כל תוכן הפודקאסטים כולל פרקים, גרפיקה ותיאורי פודקאסטים מועלים ומסופקים ישירות על ידי PI Media and רשת עושים היסטוריה או שותף פלטפורמת הפודקאסט שלהם. אם אתה מאמין שמישהו משתמש ביצירה שלך המוגנת בזכויות יוצרים ללא רשותך, אתה יכול לעקוב אחר התהליך המתואר כאן https://he.player.fm/legal.

2M ago 39:04

MP3•בית הפרקים

מודלי השפה הגדולים כובשים את עולם הפיתוח – אבל עם הכוח הרב שלהם מגיעים גם סיכונים. בדאטה שעליו הם אומנו יש לפעמים תוכן בעייתי; משתמש יצירתי עלול לחלץ מתוכם מידע רגיש; ובכלל – ניתן לעשות איתם שימוש שעומד בניגוד למטרות המוצר או החברה. איך מתגוננים מפני כל זה?
ניב רבין, Principal Software Architect בסייברארק, הגיע לאולפן יחד עם עמיתו לחברה, רן בר-זיק (שאותו אין צורך להציג) ויחד דיברנו על טכניקות הגנתיות בעבודה עם מודלי שפה גדולים. מה עושים Guardrails ואיך עובדים איתם? איך מונעים ממשתמשים להכניס פרטים שלא כדאי שיכניסו, כמו מספרי תעודת זהות? כיצד נעזרים במודל שפה נוסף, לצד המודל הבסיסי, כדי לשמור ולפקח על מה שנכנס ויוצא? ואיך כל זה קשור לקומיקס של xkcd?
האזנה נעימה,
בועז לביא

238 פרקים

#PI Media #טכנולוגיה