September 12th, 2023 - Frontiers in AI: From Pint-Sized Powerhouses and Pruned Datasets to Multilingual Mastery and Image Restoration
MP3•Epizód kép
Manage episode 376764872 series 3485608
A tartalmat a Marcus Edel biztosítja. Az összes podcast-tartalmat, beleértve az epizódokat, grafikákat és podcast-leírásokat, közvetlenül a Marcus Edel vagy a podcast platform partnere tölti fel és biztosítja. Ha úgy gondolja, hogy valaki az Ön engedélye nélkül használja fel a szerzői joggal védett művét, kövesse az itt leírt folyamatot https://hu.player.fm/legal.
- Textbooks Are All You Need II: phi-1.5 technical report
- DiffBIR: Towards Blind Image Restoration with Generative Diffusion Prior
- When Less is More: Investigating Data Pruning for Pretraining LLMs at Scale
- MADLAD-400: A Multilingual And Document-Level Large Audited Dataset
- FIAT: Fusing learning paradigms with Instruction-Accelerated Tuning
- Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs
Fejezetek
1. Intro (00:00:00)
2. Textbooks Are All You Need II: phi-1.5 technical report (00:02:20)
3. DiffBIR: Towards Blind Image Restoration with Generative Diffusion Prior (00:04:42)
4. When Less is More: Investigating Data Pruning for Pretraining LLMs at Scale (00:05:59)
5. MADLAD-400: A Multilingual And Document-Level Large Audited Dataset (00:07:21)
6. FIAT: Fusing learning paradigms with Instruction-Accelerated Tuning (00:08:32)
7. Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs (00:10:01)
75 epizódok