軟體王

Udemy線上課程 (Ken Cen出品)Generative AI第19部 DeepSeek如何 Fine-tune (微調)大語言模型 講師:Ken Cen 影音教學 中文發音 繁體中文(DVD版)

內容說明:
DeepSeek如何Fine-tune大語言模型
在這個數位轉型的時代，大語言模型正以前所未有的速度重塑各行各業，而DeepSeek作為新一代大語言模型的代表，憑藉其獨特技術特點和靈活的微調方案，為業界提供了極具前瞻性的解決方案。
今天，我們誠摯推薦由Ken Cen出品的新課程——“Generative AI第19部 DeepSeek如何 Fine-tune (微調)大語言模型”，帶您從零開始，全面掌握DeepSeek的微調技術。
1. DeepSeek的發展與技術特點
發展歷程：從最早期的語言生成模型到如今的DeepSeek，技術日益成熟，實現了更高效、更準確的語言生成。
技術亮點：具備高效的運算性能、靈活的調參機制和出色的量化能力，適合各類應用場景。
2. 如何使用Hugging Hub & Tokenizer
Hugging Hub：利用Hugging Face Hub快速下載並部署最新預訓練模型，與DeepSeek無縫銜接。
Tokenizer應用：掌握如何使用Tokenizer進行文本分詞，將自然語言轉換成模型可處理的數字化序列，為後續微調奠定基礎。
3. 使用Tokenizer分詞器預處理數據
數據清洗與標準化：學習如何利用Tokenizer進行數據預處理，確保數據輸入的一致性和高效性。
文本編碼：實際演示如何將文本轉化為token id，設定最大序列長度，並利用padding和truncation處理超長文本。
4. 超參數、labels與dtype設定及Fine-tune&評估
超參數調整：探討學習率、批次大小、梯度累積步數等超參數的設置，如何平衡精度和計算資源。
標籤與數據類型：詳細介紹如何配置labels與dtype，確保模型在微調過程中能夠正確反向傳播和穩定收斂。
評估指標：講解如何使用標準指標評估模型性能，確保微調效果達到預期目標。
5. 如何微調Fine-tune模型
微調策略：深入解析模型微調流程，從數據加載、預處理到模型訓練，每一步都精心設計，實戰演練細節豐富。
訓練技巧：分享多種微調技巧，包括混合精度訓練等，助您實現高效穩定的模型微調。
6. 實現量化Quantization模型
量化技術原理：介紹8-bit、4-bit量化技術，如何在降低內存佔用的同時保持模型性能。
實作步驟：逐步講解如何利用現有工具對DeepSeek進行量化處理，實現高性能輕量級部署。
7. 實現Low-Rank Adaptation (LoRA)
LoRA原理：解析低秩分解如何在保持原模型表現的前提下，降低微調參數量，提高計算效率。
應用實例：通過實戰案例演示LoRA在DeepSeek微調中的應用，並比較不同配置參數對模型效果的影響。
8. 實現Supervised Fine-Tuning
監督式微調：探討如何使用標註數據進行監督式微調，進一步提升模型回答的準確性與一致性。
模型評估：介紹如何構建評估流程，檢測模型在各類測試場景下的表現。
9. 實現Chain of Thought (CoT)連鎖思維推理
CoT概念：講解連鎖思維推理的重要性，如何引導模型生成具備清晰推理流程的答案。
實戰應用：展示如何構建CoT格式的輸入，並引導模型在回答時同時展現推理過程與最終結論。
10. 轉換Dataset推理邏輯語句
數據集格式轉換：深入解析如何從原始數據集中提取並轉換出推理邏輯語句，使模型能夠理解並生成合理的邏輯推理。
模板設計：提供模板設計範例，確保轉換後的數據符合模型訓練要求。
11. 實現GRPO
GRPO框架：介紹GRPO（Gradient Reward Policy Optimization）在強化學習中的應用，如何用於模型微調過程中的策略優化。
實施步驟：詳細講解GRPO的參數配置、獎勵函數設計與訓練流程，幫助您實現更加精細化的模型優化。
這門課程由業界專家Ken Cen精心打造，從DeepSeek大語言模型的技術特點到全流程的微調、量化、LoRA、監督微調、連鎖思維推理及GRPO應用，內容全面、實戰性強。
無論您是AI技術的入門者還是進階工程師，都能在這裡學到最前沿、最實用的技術知識，助力您在Generative AI領域取得突破性進展。
立即報名，與我們一起迎接AI技術的新時代，掌握DeepSeek微調的無限可能！
課程內容:
01 - 課程準備
001 課程工具準備.mp4
002 如何安裝和使用包管理器.mp4
003 Windows安裝使用Poetry的方法.html

02 - 如何使用Huggingface 的Transformers 微調fine-tune 模型
001 DeepSeek的發展與技術特點.mp4
002 如何使用Hugging hub & Tokenizer.mp4
003 如何用 Tokenizer 分詞器預處理數據.mp4
004 如設定超參數 & labels & dtype 實現模型fine-tune&評估.mp4
005 如何微調 fine-tune 模型.mp4

03 - 如何降低微調 fine-tune門檻
001 如何實現量化 Quantization 模型.mp4
002 如何實現 Low-Rank Adaptation.mp4

04 - 如何微調 Deekseek
001 如何實現Supervised Fine-Tuning.mp4
002 如何實現Chain of Thought (CoT) - 連鎖思維推理.mp4
003 第 12 講座的數據集.html
004 如何轉換dataset 推理邏輯語句.mp4
005 如何實現 GRPO.mp4





站內搜索

請輸入軟體名稱或編號

購物車 熱門關鍵字 51job 前程無憂 Frank 學院 Qingming Wpf詳解 Zhao 工作效率 女性領導力 三節課 下篇 六卦詳解 王思迅 文富 打造獨角獸 光佑 有個小院 行銷 東東 東東好課 佳旋 易經開門課 的環境預備 若水 美伊 思迅 星空 面對痛苦 渡人渡己 紫微篇 資承 遍路文化 漢化課程 養心 養身 養神 編程入門 養體 霍大俠 觸發器