Artwork

תוכן מסופק על ידי Daniel Filan. כל תוכן הפודקאסטים כולל פרקים, גרפיקה ותיאורי פודקאסטים מועלים ומסופקים ישירות על ידי Daniel Filan או שותף פלטפורמת הפודקאסט שלו. אם אתה מאמין שמישהו משתמש ביצירה שלך המוגנת בזכויות יוצרים ללא רשותך, אתה יכול לעקוב אחר התהליך המתואר כאן https://he.player.fm/legal.
Player FM - אפליקציית פודקאסט
התחל במצב לא מקוון עם האפליקציה Player FM !

26 - AI Governance with Elizabeth Seger

1:57:13
 
שתפו
 

Manage episode 385970673 series 2844728
תוכן מסופק על ידי Daniel Filan. כל תוכן הפודקאסטים כולל פרקים, גרפיקה ותיאורי פודקאסטים מועלים ומסופקים ישירות על ידי Daniel Filan או שותף פלטפורמת הפודקאסט שלו. אם אתה מאמין שמישהו משתמש ביצירה שלך המוגנת בזכויות יוצרים ללא רשותך, אתה יכול לעקוב אחר התהליך המתואר כאן https://he.player.fm/legal.

The events of this year have highlighted important questions about the governance of artificial intelligence. For instance, what does it mean to democratize AI? And how should we balance benefits and dangers of open-sourcing powerful AI systems such as large language models? In this episode, I speak with Elizabeth Seger about her research on these questions.

Patreon: patreon.com/axrpodcast

Ko-fi: ko-fi.com/axrpodcast

Topics we discuss, and timestamps:

  • 0:00:40 - What kinds of AI?
  • 0:01:30 - Democratizing AI
    • 0:04:44 - How people talk about democratizing AI
    • 0:09:34 - Is democratizing AI important?
    • 0:13:31 - Links between types of democratization
    • 0:22:43 - Democratizing profits from AI
    • 0:27:06 - Democratizing AI governance
    • 0:29:45 - Normative underpinnings of democratization
  • 0:44:19 - Open-sourcing AI
    • 0:50:47 - Risks from open-sourcing
    • 0:56:07 - Should we make AI too dangerous to open source?
    • 1:00:33 - Offense-defense balance
    • 1:03:13 - KataGo as a case study
    • 1:09:03 - Openness for interpretability research
    • 1:15:47 - Effectiveness of substitutes for open sourcing
    • 1:20:49 - Offense-defense balance, part 2
    • 1:29:49 - Making open-sourcing safer?
  • 1:40:37 - AI governance research
    • 1:41:05 - The state of the field
    • 1:43:33 - Open questions
    • 1:49:58 - Distinctive governance issues of x-risk
    • 1:53:04 - Technical research to help governance
  • 1:55:23 - Following Elizabeth's research

The transcript: https://axrp.net/episode/2023/11/26/episode-26-ai-governance-elizabeth-seger.html

Links for Elizabeth:

Main papers:

Other research we discuss:

  continue reading

30 פרקים

Artwork
iconשתפו
 
Manage episode 385970673 series 2844728
תוכן מסופק על ידי Daniel Filan. כל תוכן הפודקאסטים כולל פרקים, גרפיקה ותיאורי פודקאסטים מועלים ומסופקים ישירות על ידי Daniel Filan או שותף פלטפורמת הפודקאסט שלו. אם אתה מאמין שמישהו משתמש ביצירה שלך המוגנת בזכויות יוצרים ללא רשותך, אתה יכול לעקוב אחר התהליך המתואר כאן https://he.player.fm/legal.

The events of this year have highlighted important questions about the governance of artificial intelligence. For instance, what does it mean to democratize AI? And how should we balance benefits and dangers of open-sourcing powerful AI systems such as large language models? In this episode, I speak with Elizabeth Seger about her research on these questions.

Patreon: patreon.com/axrpodcast

Ko-fi: ko-fi.com/axrpodcast

Topics we discuss, and timestamps:

  • 0:00:40 - What kinds of AI?
  • 0:01:30 - Democratizing AI
    • 0:04:44 - How people talk about democratizing AI
    • 0:09:34 - Is democratizing AI important?
    • 0:13:31 - Links between types of democratization
    • 0:22:43 - Democratizing profits from AI
    • 0:27:06 - Democratizing AI governance
    • 0:29:45 - Normative underpinnings of democratization
  • 0:44:19 - Open-sourcing AI
    • 0:50:47 - Risks from open-sourcing
    • 0:56:07 - Should we make AI too dangerous to open source?
    • 1:00:33 - Offense-defense balance
    • 1:03:13 - KataGo as a case study
    • 1:09:03 - Openness for interpretability research
    • 1:15:47 - Effectiveness of substitutes for open sourcing
    • 1:20:49 - Offense-defense balance, part 2
    • 1:29:49 - Making open-sourcing safer?
  • 1:40:37 - AI governance research
    • 1:41:05 - The state of the field
    • 1:43:33 - Open questions
    • 1:49:58 - Distinctive governance issues of x-risk
    • 1:53:04 - Technical research to help governance
  • 1:55:23 - Following Elizabeth's research

The transcript: https://axrp.net/episode/2023/11/26/episode-26-ai-governance-elizabeth-seger.html

Links for Elizabeth:

Main papers:

Other research we discuss:

  continue reading

30 פרקים

כל הפרקים

×
 
Loading …

ברוכים הבאים אל Player FM!

Player FM סורק את האינטרנט עבור פודקאסטים באיכות גבוהה בשבילכם כדי שתהנו מהם כרגע. זה יישום הפודקאסט הטוב ביותר והוא עובד על אנדרואיד, iPhone ואינטרנט. הירשמו לסנכרון מנויים במכשירים שונים.

 

מדריך עזר מהיר