在自己電腦，電話上用運行各種語言模型

在手機Termux上裝了也可以用，在家裏的迷你PC上當然也沒有問題，但要跑更大型的模就要很多RAM. 各種已經訓練好大型模型和最新項目都可以在Transformers Huggingface.co 找到 現在的人工智能雖然還是有很多缺點，但是以這樣的發展速度在很短時間就會改變世界，但不要忘記現在的人地智能是建立在全部人多年累積的智慧和經驗的基礎上，應該是所有人共有的，將來要怎樣發展還是要看人們是怎樣去改造和利用這個新的工具。

重點推介這個Big Science的bloom模型: 由過千名科學家，及很多個國家參與，很多資料是由專業團隊人工篩選過，最後由法國的超級電腦訓練了差不多4個月，不像某些AI只是開放源碼，沒有開放模型，早晚變成'close '----普通人根本沒有資源去訓練出一個合用的模型--,Big Science現在把這個投入了巨大資源訓練好的模型開放給大家用，還有由輕最級到完整版本，可以在不同配置的機器上運行!大家可以在這個基礎上訓練自己的模型，只是依賴別人的API是非常被動的，首先你不知道他如何運作，然後他輸出結果是不确定的，出了問題你沒有辦法解決，再來如果他罷工，或停了你的服務你有沒有替代方案?處理日常工作不須要超大型模型，要的是高效率，靈活性，确定性和安全性。 這是在手機上跑Bloom-800m-zh的效果， 雖然整體功能不能和超大型模型相比，但我們可以在這些迷你模型的基礎上訓練出貼合自己需求，處理特定任務的專屬模型，效能更高，而且穩定安全。

現在人工智能發現得很快，不斷出現更優秀的模型，目前大部份都是在LLaMA 的基礎上再訓練，這個VICUNA模型用了真人和ChatGPT 的對話紀錄來訓練，在10％體積下達到了ChatGPT 90%的效果，可以在普通電腦上運行。 現在形勢人工智能發展太快，剛更新很快就會過時，太舊的就不要再拿來用了，暫時是在vscode上用codewhisperer開發，這個比copilot更靠普，然後不要只是用chatGPT,很多新的東西也要出來了。