大語言模型應用於企業運作:探索AI客服的樸實力量

台北訊

生成式AI風靡全球,對話式AI也成為企業轉型的關鍵一環。隨著生成式AI的快速發展,AI應用為企業帶來了前所未有的效率和靈活性。AI客服不僅能夠解決客服人員不足的問題,同時也能為企業節省成本,帶來更多競爭優勢。

現在正是導入AI客服的最佳時機,跟著我們用5分鐘探索AI客服的無限可能性!


為什麼你該了解生成式AI?


企業必知的生成式 AI 功能 : AI 客服

根據多方工商心理學的報告指出,全球各企業面臨客服人員的短缺問題。客服工作的情緒勞動不可忽視,而堅定拒絕情緒勞動的 Z 世代與 Alpha世代員工都將於未來10年內陸續進入職場;若不及時思考下一代的客服應用解決方案,那很有可能要被缺工時代給吞噬。而若把目光放到更當下的觀點來看,許多企業每年在客服等支援性人力費用的開支持續居高不下,對話式 AI 儼然是大幅降低人力成本的契機。

除了AI 客服,生成式 AI 還能做什麼?

除了生成文字與對話外,生成式 AI 也能生成程式碼、影像、指定格式文件等,試想一個公司為了這些文書、或是IT維護付出了多少成本?根據麥肯錫全球研究院發布的「製藥業生成式AI報告」指出:製藥業光是使用生成式AI打造可分析採購訂單、發票、以及預測庫存等,就推估可創造40~70億美元的價值,或是能提升銷售團隊10%~15%的生產力與效率。而透過這些方式發展新的商業模式更是不在話下。

對話式AI在企業的常見應用:超高效率全年無休即時服務

  1. 影視業:利用對話式AI技術開發了一個智能劇本審查系統,能夠自動檢測劇本中的潛在問題,從而節省了大量人力成本並提高了審查效率。韓國廣告公司 Inshorts 就推出 AIPP 數位置入服務,可透過 AI 技術將欲置入的廣告插入已經拍好的影像作品中,提升廣告置入的檔期與時段機動性。
  2. 金融業:採用AI客服機器人,為客戶提供24/7的即時客服支持,能夠自動回答常見問題、處理交易查詢,提升了客戶滿意度和服務效率。比如美國第二大信用合作社 PenFed ,透過生成式 AI 解決了 25% 的內部需求。
  3. 製造業:導入對話式AI技術於生產線管理中,機器人負責監控製造流程並提供即時反饋,有助於減少生產中的錯誤和延遲,提高生產效率和品質。日前引發轟動的 Figure AI 機器人即已經與 BMW 簽屬合作協議,預計在未來 12~24 個月內投入到汽車組裝產線上。


各家語言模型、廠商及AI客服比較與介紹


如今已經有許多廠商加入了生成式 AI 的戰場,那企業該如何在這多元的選項中,選出適合自己的服務商呢?以下條列幾個常見的選項:

  1. OpenAI:作為帶起這波 Gen AI 浪潮的領頭羊,OpenAI 持續走在第一線;除了定義出了許多行業規格外,更也搶先推出如 Sora 、Assistant 等多元服務。
  2. Google Gemini :強調與 Google 全生態系工具整合以及單次最大的可處理文字 token ,若需要 Gmail、GCP、Drive、Calendar 整合的服務,那肯定不能錯過。
  3. Mixtrall:歐洲新創公司,使用 7B 參數的模型搭配優異的算法,可以達成近似於大語言模型的運算結果,對於節省硬體與算力消耗有破壞式創新等級的幫助。
  4. Microsoft Azure:來自 Microsoft 的 Azure 生態系中,除了自身的語言模型外,更是有許多 OpenAI 的獨家資源可直接使用。幾乎可以說是私有雲版的 OpenAI,並擁有優於平均的回應速度。
  5. MLLLM Ferret-UI:今年6月,蘋果 WWDC 可能會亮相 MLLLM Ferret-UI,就目前釋出消息判斷可能是第一個針對 UI 介面讀取的 LLM,就像是一個站在你旁邊看著你螢幕引導你的操作助理。


AI如何幫助企業?企業如何開始評估生成式 AI 導入


企業導入前可以做以下評估:

Q:我的資料夠齊備嗎?

A:AI 需要資料學習,而生成式 AI 需要的資料許多都是文本、檔案或是對話紀錄。平時企業就有好的文檔管理規則、以及 SOP 的話,導入的初期速度將會很順暢,但若沒有的話也沒關係,現在也有使用生成式 AI 自動化歸檔、整理公槽、把不完整的文件自動完整化的解決方案。

Q:公司是否有使用生成式AI的必要性?

A:以是否有需要解決的問題為判斷標準。試著先盤點既有工作流程,力所能及的找出所有有痛點的場景,然後針對問題去搜尋是否有適合的生成式 AI 工具,並評估是否有使用的需求,而非先決定要使用的AI工具再找要解決的問題。

Q:公司可編列靈活的預算嗎?

A:多數的生成式 AI 都是按量計價,確保企業可以於有限的條件下,讓 AI 投入以固定比例的方式為成本支出,會比傳統的年度預算制更加有彈性。

Q:公司制度下可容許一定的試錯嗎?

A:不要害怕嘗試,生成式 AI 的特性是生成結果的多元性,重點在於人跡機作與訓練過程。

Q:公司採用敏捷開發模式嗎?

A:生成式 AI 每周都會有新一代技術突破,這周套用的框架可能下周就會被突破了。使用敏捷思考快速試錯,將會比嘗試選定一個可以用5年、10年的工具並進行瀑布開發還要來的務實。

Q:公司的 IT 團隊具有 Data 的 Domain Know-How 嗎?

A:雖然許多人認為 AI 也是 IT 、coding的事情,但實際上 AI 專家與一般的開發者有截然不同的技能。AI 專家需要更多對於數學與跨領域的理解,以及數據分析能力。若企業本身尚未有數據導向文化,那即便有龐大的 IT 團隊,導入起來可能也會很吃力。

Q:公司的全體同仁有自主嘗試過 AI 的經驗嗎?

A:如今的生成式 AI 也有許多的 SaaS 解決方案是可以讓非技術人員直接使用的 。正如上面所說的 AI 專家很需要跨域能力,公司內非技術人員是否有在日常開始使用 AI 工具,甚至研究優異的 prompt ( 提示詞 ) 等,都將會對公司導入 AI 有極大幫助,因為這將能對齊彼此的思考方式,讓大家更容易於日常探索出 AI 可以幫助我們提升效率的地方。


導入AI客服後的預期效益


緯創軟體的對話式 AI 應用

緯創軟體在全球有超過1萬1千名員工,自2023年4月就開始研發AI智能客服「Chat8855」,亦已經成功取代原有的員工服務中心,更也與許多客戶一起發掘 AI 的可能性,使用 AI 思維找出 AI 時代的技術與非技術人才。近幾個月來更是透過 Gen AI 來做履歷與職缺的 Label 與媒合,逐步建立領先台灣的技術人才智能招募的機制,為更好的服務品質持續優化精進。

AI 客服的更多應用場景

以全球案例來看,Klarna 的應用範例更是近幾個月來對話式 AI 的商業效益典範。Klarna 示範了在導入對話式 AI 的僅僅一個月時間內,就已經透過 AI 駐守處理客服聊天的三分之二 ( 約 700萬筆 )工作量,除了展現了其驚人的處理效率外,更突顯了 AI 技術在客服領域的廣泛應用與商業價值,並證明了其對提升客服效率的巨大潛力。

生成式 AI 重新定義了人們與數據、技術的互動方式,在這波浪潮中,緯創軟體邀請您與我們一起探討,對話式AI的無限可能。