跳到主要內容

新時代的開始:大型語言模型從新穎工具變為商業必需

Appier 技術長陳明愉博士

人們對大型語言模型(LLM)的態度已經從單純的嘗鮮轉變為實際需求,如 ChatGPT 和 Bard 等大型語言模型已逐漸成為商業領域中不可或缺的工具。預計到 2027 年,企業在生成式人工智慧(AI)解決方案上的投入將達到 1,511 億美元,且 2023 到 2027 年的複合年增長率將達到 86.1%,顯示企業對 AI 應用的興趣正在急速上升。

大型語言模型已從最初的熱門話題轉變為企業的策略焦點,力求將 AI 更深度地融入商業運作中。例如,麥肯錫的年度 AI 發展現狀調查顯示,有三分之一的企業至少在一項業務中固定採用生成式 AI。同時,有 25% 使用 AI 的企業表示生成式 AI 已被納入其董事會議程,凸顯了 AI 在企業決策面的重要性。

隨著生成式 AI 解決方案的發展更具策略性和針對性,企業加大技術應用的態勢必將提升整體績效,使 2024 年成為企業採用大型語言模型的關鍵一年。這項演進標誌著新時代的來臨,在這個時代中, AI 不再只是一項實驗性工具,更是企業發展策略和營運的基本要素。

大型語言模型應用:2023 年與 2024 年

在 2023 年,雖然有部分公司員工開始嘗試使用 ChatGPT 及其他大型語言模型工具,這些工具主要用於撰寫電子郵件或回覆訊息。更具前瞻性的人可能會利用這些工具來撰寫提案或其他篇幅較長的文件。然而,有鑑於大型語言模型生成的內容可能出現不符事實或類似幻覺的情況,大多數時候,這些內容僅用於內部參考,並不適合用於外部公開場合。

然而現在,經過一年的實驗和改進,大型語言模型開發人員已經準備好推出──或者已經推出面向企業的商務版產品,以滿足企業開發的需求。其中最受矚目的,莫過於「客戶服務」和「內容創建」兩大應用領域,今年,這兩項應用的品質與採用率可望有顯著的提升。

為什麼是 2024 年?

2024 年將成為大規模採用大型語言模型應用程式的轉捩點之年,背後驅動的兩大關鍵因素是「技術演進」和「市場情緒」。自從 ChatGPT 於 2022 年 11 月面世以來,大型語言模型技術已經從單純完善文案和分析模型,演變成為功能全面的聊天機器人,不僅能執行程式碼、運用工具,還能存取外部知識和搜尋網路。換言之,在短短不到 12 個月的時間裡,這項具有革命性意義的工具已徹底改變了整個技術社群的面貌。

然而,如果高階主管不買賬,這些技術演進便難以在市場上獲得認可──這正是 2023 年的瓶頸所在。現在,大多數執行長都已達成共識,認為在業務營運中採用 AI 解決方案是當務之急,他們明確表示,投資 AI 至關重要。隨著更多針對特定垂直產業的大型語言模型問世,企業採用和部署這些生成式 AI 解決方案將變得更加容易。 2024 年,大型語言模型開發人員還將著手解決一項關鍵挑戰──資料安全。技術開發人員將提供一個讓企業將數據存在其內部系統的解決方案,進而提供更安全、更強大的產品,以滿足那些重視風險管理的執行長的需求,獲得他們的青睞。

2023 年,各國政府及其他監管機構在規範 AI 方面面臨挑戰。去年 12 月,歐盟就《AI法案》達成共識,這是一項具里程碑意義的法案,旨在對 AI 的使用進行規範和限制。該法案一經實施,以及隨後可能出台的相關法案,將對科技公司開發 AI 解決方案的方式產生深遠影響。簡言之,這些法案將對何種行為是許可的、何種行為是禁止的,建立基本的規則框架。

隨著更強大的功能、更廣泛的支持以及更清晰的認識,預期大型語言模型應用程式將在全球各大型企業中得到更具規模化的採用。

客戶服務、內容創作與大型語言模型

想像一下,如果 ChatGPT 是網站上的客服聊天機器人,你根本無法分辨真人與機器人。而將 大型語言模型聊天機器人整合到客戶服務中,也為企業提供了一個節省成本的機會,能隨時為客戶提供服務。實際上,隨著消費者對企業和企業體驗的要求越來越高,這些大型語言模型聊天機器人可以提供更個人化的互動,並且提高客戶滿意度。

使用大型語言模型創建內容的優點之一是速度快。如果你不滿意它生成的結果,只需重新調整提示措辭,不到一分鐘就能獲得新的結果。這在行銷和廣告領域尤其有用,因為多變量測試和迭代是獲致最佳化內容的關鍵。無論是廣告標語、充滿資訊的部落格文章,甚至是短篇小說,大型語言模型都能夠借助其被訓練過的大量數據來產生新的想法和文本。

除了速度之外,讓企業購買和使用這些大型語言模型進行內容創作的原因還包括內容的多樣性,像形式、風格和語氣。在 ChatGPT 剛出現的時候,人們擔心所有的內容最終會變得千篇一律。如果讓 ChatGPT 寫一篇關於某個主題的部落格文章,同時兼顧搜尋引擎優化,可能會導致所有文章一成不變;但由於提示工程(prompt engineering)的存在,這項擔憂並未發生。

只要稍微改變一下提示用語,ChatGPT 和解決方案就能就同一主題產生不同的內容。更重要的是,使用者可以要求大型語言模型內容創作者採用某種寫作風格或語氣。當然,這也是迭代的關鍵所在,因為最優秀的用戶會反覆使用大型語言模型來訓練它,讓它聽起來更像自己。大型語言模型的最終目標是讓在最短的時間內產出聽起來像公司創作的優秀內容。

大型語言模型將如何重新定義 2024 年以及企業的未來

隨著 2024 年的到來,大型語言模型從實驗工具到重要商業資產的轉變變得越來越清晰。這些模型在技術能力方面取得了顯著的進步,如今在客戶服務和內容創建等領域發揮至關重要的影響力,能夠提供無與倫比的效率和客製化服務。今年不僅是技術進步的一年,也是將這些工具整合到業務運營結構中,並與不斷變化的監管環境和執行策略持續對焦的一年。

LLM 的廣泛採用證明了其徹底改變企業營運、溝通和創新方式的潛力。在我們見證這一轉變的過程中,我們可以清楚地看到,大型語言模型不僅是企業未來的一部分,它們還在積極塑造未來,在數位化日益加劇的世界中為企業的成長和效率開創新的途徑。

關於 Appier

Appier 是一家以人工智慧(AI)為核心的軟體即服務(SaaS)公司,運用 AI 協助企業進行商業決策。 Appier 成立於 2012 年,以實現 AI 的普及化為願景,透過軟體智慧化將 AI 轉換為投資回報,助力客戶實現業務成長。如今在亞太地區、歐洲及美國擁有 17 個營業據點,並於東京證券交易所掛牌上市(股票代號 4180)。欲了解更多訊息,請造訪 www.appier.com

螢幕擷取畫面 2024-05-08 110432

留言

這個網誌中的熱門文章

COC 通報處理說明公告 - 20240811 通報事件

各位好, COSCUP COC 服務小組於 2024 年 8 月 11 日接獲一件通報,內容涉及在會期干擾議程進行;並於會後持續發送私訊予會中結識的講者;同時,該行為人亦被紀錄於活動當日干擾志工執行勤務。 有關此事件的處理過程,詳如下述: COC 服務小組接到通報後,於 8 月 15 日正式成立專案小組進行討論與檢視相關資料。經查,通報內容與 COC 條款「持續干擾議程或活動的正常進行,無視工作人員或與會者的制止」相符。同一行為人於大會期間,另有兩位會眾通報類似事件,COC 服務小組皆已明確指正其行為並重申 COC 規範和界線。綜合此次會後通報,行為人經提醒仍多次抵觸 COC 條例。 有鑒於上述行徑已明確影響 COSCUP 其他會眾之權益,COC 服務小組將依照 COSCUP COC 之辦法記錄事件處理過程及結果、行為人資料等,於籌備團隊組長群資料夾建立文件,以俾後續籌備團隊審慎思量該名行為人未來的參與形式與程度。 在此,感謝會眾願意信任 COC 和 COSCUP 團隊並且將其所遇到的事件於會後彙整提供予我們。另本次通報中,通報人所提及之部分事項,因非屬 COSCUP 大會參與期間和相關行為,已建議通報人另行循其他正規途徑處理。在此聲明, COSCUP 的 COC 落實並非要拒任何人於門外,而是希冀透過針對行為本身的評估,為無論志工、社群協調人、講者、廠商與所有會眾營造舒適與安全的交流環境。 我們在乎所有人於 COSCUP 大會的各種參與體驗與感受,如果您在大會和籌組期間有相關困擾,籌備團隊志工將會竭力協助釐清,希望一同打造友善的 COSCUP 與會環境。 COSCUP 2024 COC 服務小組

你所不知道的 foodpanda

  2020 左右,隨著新冠疫情流行,台灣也逐漸流行起一股懶人旋風。懶懶躺在沙發上,動動手指滑滑螢幕,生鮮或美食就能快速又安全地由可愛的粉紅色熊貓外送員送達您門口。多數人知道 foodpanda 是台灣最大生鮮美食外送平台,也不少人知道 foodpanda 在台灣不斷擴張業務範圍,但 foodpanda 也有許多台灣科技圈所不知道的事。 例如,foodpanda 其實並非台灣本土廠商,也非只專注在亞洲區域。foodpanda 隸屬於德國 Delivery Hero 集團,業務橫跨歐洲、亞洲、美洲及北非,旗下更有十多個生鮮美食外送品牌。除此之外,foodpanda 於 2021 年時也在台灣正式成立全球第三個 Tech Hub。做為四大產品 RD 研發中心之一,台灣與德國柏林、新加坡及土耳其伊斯坦堡的人才緊密地合作,專注於打造 end-to-end 的顧客體驗。諸如月費方案 Panda Pro、外帶自取、餐廳內用 (目前仍未在台灣上市) 等功能。期待能持續吸收優秀人才、與其它三個跨國研發中心合作,打造後疫情時代新的成長引擎。 事實上,台灣的 foodpanda 研發團隊並不僅止於打造台灣本土產品。反之,我們所建立的平台及產品,已成功於近 20 個國家、10 個品牌上市。要在快速的步調下,打造持續進步且符合不同國家文化客戶需求的產品,我們依靠的是 專案團隊成員一條龍組合 從 Product Manager、Engineering Manager、iOS/Android/Web/Backend developer、QA、Product Designer、Product Analyst 全都在同一個 product line squad。讓相同產品的團隊成員能緊密合作、第一手快速了解市場、滿足需求。 國際專業團隊緊密合作 foodpanda 的 iOS/Android/Web/Backend 等專業工程師,都各自設有其跨 squad 的 chapter 組織。讓工程師能在專案團隊以外,有跨國跨團隊專業能力交流的機會。在 chapter 中,相同技術域領的專家們,會一起制定共同的實作標準、分享在專案中遇到類似的挑戰,並且找出可能的應對方案。因此,在 foodpanda 我們不只打產品專案團隊的速度戰、還打整個集團的整合能力團體戰,讓德國、新加坡、台灣、伊斯坦堡的工程師...

利用 Jitsi 建立個人化的視訊會議平台

  近期因為疫情的關係,越來越多企業開始實施分流或在家工作,視訊會議的需求也日益增加。 在商用解決方案選擇上,有不少企業會選擇知名品牌的產品,例如  Cisco Webex 、 Google Meet 、 Microsoft Teams 、 Zoom  都是很不錯的方案。 KKBOX 集團在去年便試行及做好充分 work from home 的準備,今年五月也因應疫情升溫,全員 work from home 至今兩個月有餘。 當然,取之 Open Source,也要對社群有些貢獻。在這一屆 COSCUP,我們要來介紹 Open Source 圈中也很知名,效果也很不錯的一套視訊會議平台: Jitsi 。 除了基本的視訊會議功能外,在最後我們也會示範如何透過 Jitsi 畫面輸出到 YouTube/Twitch 或其他支援 RTMP 的平台進行直播。 由於篇幅有限,且 Jitsi 可以調整的細節非常多。今天我們純粹很快速的示範,如何簡單的建置出一個 Jitsi 環境,並提供單場會議內容錄影或直播。 Jitsi 的文件可以在 這裡 找到。 今天透過 AWS Lightsail 的 $10/month instance(1 core CPU + 2GB RAM + 60GB SSD),作業系統則是 Ubuntu 20.04 來示範。當然,使用其他 VPS 亦可,大同小異,這邊直接跳過 VPS 相關的建置過程。 *firewall 相關資料參考 這裡 及 這裡 。 針對系統做必要的更新 基本的 apt repository 更新: $ sudo apt update 因為後面要示範的會議錄影及直播需要使用 ALSA loopback device,如果是 EC2 or Lightsail 則需要額外安裝 generic kernel( 註 ): $ sudo apt install linux-image-generic linux-headers-generic linux-image-extra- virtual 接著做系統套件們的更新: $ sudo apt dist-upgrade $ sudo apt autoremove 如果是 AWS EC2 or Lightsail 則需要另外再將預設的 AWS optimized kernel...