chatGPT原理與實踐
發(fā)布時間:2023-03-29 17:17:15
講師:葉梓 瀏覽次數(shù):2901
課程描述INTRODUCTION
本課程介紹了chatGPT相關模型的具體案例實踐,通過實操更好的掌握chatGPT的概念與應用場景,可以作為chatGPT領域學習者的入門到進階級課程。
日程安排SCHEDULE
課程大綱Syllabus
chatGPT的概念與應用場景
Day1上午
Transformer
1、你需要的僅僅是“注意力”
2、Transformer中的block
3、自注意力機制
4、多頭注意力
5、位置編碼(拋棄RNN)
6、Batch Norm與layer Norm
7、解碼器的構造
初代GPT
“獨角獸”的威力
GPT的內部架構
基于Transformer的改造
自注意力機制的改進
Day1下午
GPT的演進
1、GPT2
2、GPT3
3、InstructGPT
chatGPT的原理實踐
1、指示學習(Instruct Learning)
2、相關數(shù)據(jù)集
3、有監(jiān)督微調(SFT)
4、從人類反饋中RL的思路
5、獎勵建模(RM)
6、PPO
7、chatGPT的應用領域
8、chatGPT引發(fā)的討論
chatGPT的國內替代品
1、問東風AI
2、其他替代品
chatGPT的概念與應用場景
轉載:http://www.cticoncepts.com/gkk_detail/285378.html
已開課時間Have start time
- 葉梓
[僅限會員]