【AI不是未來,是現在!AI產品已存在我們的生活中,你發現了嗎?】
故事開始於1958年9月,第一個積體電路(IC)的誕生。這項技術將多個電子元件整合在一塊晶片上,極大地縮小了體積並提升效能,讓可攜帶裝置如手機能夠處理各種任務。如今,我們正處於人工智慧(AI)時代,雲端上的人工智慧模型日益龐大。然而,要在計算能力和儲存空間有限的手機和個人電腦上執行複雜任務變得非常緩慢。然而滿拓科技股份有限公司(以下簡稱滿拓科技)正以創新的方式解決這個問題,使得AI更加普及且更貼近人們的生活。他們從改變集成電路(IC)的設計著手,利用專利技術將原本在雲端使用32位元運算架構的演算法轉換為4位元,使得AI演算法可在運算能力較低的手機上運行,同時幾乎不改變結果。這種AI微型化技術的關鍵在於進行系統模擬,而非傳統的量化和修剪方法,這使得他們能夠精準地將雲端上千萬參數等級的AI演算法落地,同時減少90%的資料傳輸和運算複雜度,並仍然保持99%以上的正確率。
滿拓科技專注於在地端人工智慧領域,擁有On-Premises相關技術的全能型企業。其世界領先技術,能將複雜的AI演算法微型化(miniaturization)及AI演算法晶片化技術(Hardening),運用28nm~130nm奈米技術,使AI IC成本大幅降低,實現AI終端產品普及化及生活化,敞開各式應用大門。其獨家創新的「微型化技術」,將千萬參數以上的大型專業複雜的AI模型微型化至少9成。專利技術「AI演算法晶片化技術(Hardening)」突破性地將微型化後AI演算法直接轉換成AI IP晶片電路(矽智財)並執行,提供了目前市場上最迫切需要的最小、CP值最高、最省電的AI IP(DeepLogCore)。根據這些具市場資料及實際應用驗證過的微型化AI模型,可運用在三個領域:視覺AI (Vision AI)、聲音AI (Audio AI)、是指自然語言處理(NLP AI),幫助客戶在既定市場下一代產品導入剛性需求的AI功能,開發下一代AI產品線。
滿拓科技的創辦人兼執行長吳昕益回顧起創業歷程時說,儘管現在成果斐然,都是深感艱辛和努力的成果。他提到在2018年開始意識到雲端的人工智慧模型最終會趨向終端化,這一技術有著廣闊的前景。於是,他們成立了公司並推出了第一版8位元的電路,這支只有十幾人的團隊在如此短時間內取得如此成就,令整個行業驚訝。吳昕益認為,滿拓科技最大的優勢在於能夠靈活運用全新的方法和思維來應對新的需求。常常在這樣的嘗試中會發現前所未有的解決之道。
一場技術的革新–滿拓科技的奇蹟之旅,正因為人們開始意識到處理大型語言模型(LLM)的困境而展開。這些巨大的語言模型如ChatGPT,擁有超過一千億個可調整的參數。然而,與雲端模型的頻繁互動卻對網路速度和硬體規格提出了巨大的挑戰。使用者可能無法忍受需要等待數十秒才能獲得回應的情況。更甚的是,使用修剪演算法的方法可能正確性難以保證。滿拓科技透過專利技術,與臺灣官方LLM模型訓練龍頭台智雲合作,將大型LLM演算法進行微型優化,並在企業內部特定領域進行二次訓練,然後將其落地部署在企業內部Server上,從而確保企業客戶資料的安全性並降低營運成本,這些都是大型語言模型能否普及的關鍵之一。
滿拓科技目前已與臺灣眾多硬體製造和高速運算領域的大型廠商如力積電、艾訊和台智雲等,展開合作開發。隨著人工智慧應用範圍的不斷擴大,他們期望能夠打開國際市場,創造更大的影響力。讓滿拓科技的奇蹟之旅,不僅帶來了技術的革新,也為臺灣的科技發展鋪開了新的道路。他們的努力和創新精神將持續推動著人工智慧領域的進步,讓科技更貼近人們的生活。
2022 全球競賽TIE award-副總統頒獎
2022台北市亮點企業-研發卓越獎
滿拓獲得2023 AI大賞
Edge AI 智慧交通應用