apple stories
AI 遇上無障礙輔助使用設計:今年 Swift Student Challenge 掀新風
演講之時得到即時意見回應;及時逃離加納首都 Accra 洪水區;沒有樂器在手也能彈奏中提琴;在 iPad 繪畫不必擔心手震。如此種種,是今年 Swift Student Challenge「傑出得獎者」(Distinguished Winners) 以其得獎 app playground 所創建的其中四個解決方案。
一年一度 Swift Student Challenge 邀請全球各地學生運用 Apple 易於上手的 Swift 程式語言建立原創 app playground,將創意化為現實。今年 350 份得獎作品來自 38 個國家與地區,融合各式各樣的工具與技術。
Apple 全球開發者關係副總裁 Susan Prescott 表示:「Swift Student Challenge 展現的創意之廣,總令我們驚嘆不已。今年得獎者運用 Apple 平台、Swift 及 AI 工具的強大能力,以巧妙之法開發既技術精湛又意義非凡的 app playground。
我們非常榮幸得以支持他們的歷程,亦非常期待其往後精彩之作。」
50 名「傑出得獎者」(Distinguished Winners) 受邀參加在 Apple Park 舉行的全球開發者大會 (WWDC),親身參與為期三日的特別體驗。 WWDC 的一週期間,得獎者有機會親臨現場觀看 Keynote 發佈會、向 Apple 專家與工程師學習,以及參與不同實驗室活動。
今年眾多得獎者均從其本地不同社群、甚或在自家餐桌上的閒談中激發靈感,創作出以無障礙輔助使用為核心的 app,驚嘆人心。
以下為「傑出得獎者」Gayatri Goundadkar、Anton Baranov、Karen-Happuch Peprah Henneh 及 Yoonjae Joung 將深入探討其 app playground 以及各人想要解決的現實問題,展示 app 開發推動長遠變革的力量。
《Steady Hands》讓藝術觸手可創
20 歲的 Gayatri Goundadkar 在印度 Pune 長大,從少就與祖母一同繪畫。她倆均熱愛印度 Warli 部族的傳統 Warli 繪畫,畫作以基本幾何圖形著稱,其藝術形式具數以百年計歷史。
但隨祖母年事漸高,其雙手開始顫抖,日常繪畫練習不再。此一遺憾烙印於 Gayatri Goundadkar 心中,啟發她開發《Steady Hands》,此 app playground 運用 Apple Pencil 穩定技術,協助備受手震困難的人創作藝術。
目前是 Maharashtra Institute of Technology World Peace University 電腦科學系學生的 Gayatri Goundadkar,正參與校內一項 app 開發項目,她解釋道:「我的主要受眾是長者。
尤其在印度,科技對老一輩人來說,可能令人望而生畏,所以我做每一決定時都考慮到這一點。介面必須讓人感到平靜,而不是冷冰冰的。我不希望任何人打開 app 時感到迷茫或不知所措。我希望他們覺得此 app 是專為他們度身訂造。」
為了讓用户能自由繪畫,Gayatri Goundadkar 必須了解手震情況,以及其如何影響 iPad 觸控螢幕的互動操作。
受 Apple「觸控調節」等輔助使用功能啟發,她先學習 SwiftUI 概念,運用 Anthropic「Claude」助以理解相關內容,如 PencilKit 如何應對筆觸資料等。
為了描繪用户的震顫特性,她建立工具分析來自 iPad 和 Apple Pencil 的原始運動資料。此工具會擷取手部動作,應用信號運算技術識別用户手震頻率與強度。
她表示:「當用戶繪畫時,我的 app 會運用 Apple 的 PencilKit 與 Accelerate 框架分析筆觸資料,同時識別手震。它能區分哪些是有意動作,哪些是無意動作,同時消除手震影響。每份作品會展示在個人 3D 博物館中,因為我希望他們感覺自己是創作人,而不是病人。當用户看到防手震效果發揮作用時,會更有信心。」
《pitch coach》讓演講表現更臻完美
那天,22 歲的 Anton Baranov 坐在德國法蘭克福家中的餐桌旁,聽著身為語言學與文學教授的母親分享,她的一番話讓他印象深刻。
就讀德國 University of Applied Sciences Mittelhessen 電腦科學系的 Anton Baranov 分享道:「她說她的學生很有才華,但有時候當他們演講時,就會突然僵住。他們會詞窮、垂頭喪氣地駝背,無法好好表達自己的想法。」就在那一刻,《pitch coach》 應運而生——Anton Baranov 稱之為「以 Apple Intelligence 為諸如節目 《創智贏家》(Shark Tank) 類推介演講而設的得力助手」。
Anton Baranov 16 歲開始接觸編碼,去年 8 月首次使用 Swift,今年 2 月開發《pitch coach》。他將初始版本帶予母親的學生試用,因而發現了一個漏洞:學生知道自身表現不好,但往往事後才意識問題所在。Anton Baranov 回憶道:「有學生告訴我:『我希望能及時發現自己的錯誤』。正因為如此,實時意見回應與 AirPods 姿勢追蹤功能成為此 app 核心功能。」
為協助用户克服演講焦慮,Anton Baranov 運用 Apple Foundation Models 框架,每次練習後提供度身訂造、具備情境意識的意見與總結,提醒用户注意「like」或「um」之類的贅詞。他亦運用 Xcode 26「Claude Agent」,將 app 翻譯成 20 種語言,同時與朋友和同事合作,協助識別其他語言中的贅詞。
Anton Baranov 3 月初在 App Store 推出《pitch coach》,自此累積逾 6,000 次自然下載 (Organic Downloads)。大多數用户將其用於演講練習,但 Anton Baranov 亦分享了一些他覺得有趣的用法:練習饒舌表演及棟篤笑。他說:「是用户賦予 app 意義,所以只要他們覺得適合,那就由他們發揮它。」
《Asuo》尋找洪水區安全疏散路徑
Karen-Happuch Peprah Henneh 今年才開始學習 Swift。在她的家鄉加納完成電腦科學與資訊科技學士學位後,由於當地程式編寫相關機會有限,Karen-Happuch Peprah Henneh 轉攻動畫製作。她自學 Figma 與 HTML5,目前亦於 California College of the Arts 攻讀互動設計碩士學位。
她為易受洪水影響的社區設計了得獎 app playground《Asuo》(「Asuo」在加納廣泛使用的方言 Twi 語中,意指「流水」)。《Asuo》為身處洪水區的居民提供即時安全路線指引,此概念源於其切身經歷——2015 年重創加納首都 Accra 的致命洪災,於當地引發一系列連鎖災難效應。
Karen-Happuch Peprah Henneh 表示:「那次經歷讓我記憶猶新,因為全國上下陷入沉痛哀悼中。我當時就決定,如果有機會,我首要做的事就是開發一款 app,能計算降雨強度,同時參考過往洪水紀錄數據以建立路徑規劃演算法。」
為了開發《Asuo》,Karen-Happuch Peprah Henneh 不僅要整合所有數據,還要確保每一人都可使用。她說:「從一開始,無障礙輔助使用設計就是核心考慮因素,而非事後才補上的功能。
我相信,在危機時刻,任何人都不應因為身心障礙或各種限制而被遺落。」
此 app 的互動元素設有 VoiceOver 旁白標籤與提示,方便視障用户瀏覽每一畫面。Karen-Happuch Peprah Henneh 亦運用 AVSpeechSynthesizer 建立度身訂造語音警告系統,用户可經喇叭按鈕切換開啟。
以 Figma 設計《Asuo》介面後,Karen-Happuch Peprah Henneh 進一步以「Claude」協助完成 app 啟動畫面的降雨模擬器,以及完成 A* 路徑尋找演算法。她分享道:「因為我是設計師,所以我不太深入研究那些非常講究技術的部分。我靠 AI 代理協助完成。原本可能需要數月方能完成的工作,在三、四天內就完成了。」
Karen-Happuch Peprah Henneh 以其非牟利組織 Radiance Girl Africa 在不同學校舉辦講座及工作坊,包括加納 University of Education in Ghana 及 UniMAC,旨在協助年輕女性在科技與人文藝術領域發展。
Karen-Happuch Peprah Henneh 表示:「數碼鴻溝非常明顯。不少人在成長過程中沒有機會接觸電腦。科技可以解決很多問題,但如果沒有來自我所在地區的人參與設計,那麼學習科技、跟上科技的步伐則較困難。
我的受眾就是弱勢社群。 」
《LeViola》讓音樂教育更普及
21 歲就讀電腦科學系的 Yoonjae Joung 準備為其紐約大學交流生計劃整理行李之時,發現行李箱裝不下他的中提琴。
但欣賞過 New York Philharmonic 的演出後,他開始想念自己的樂器。
就在此時,他萌生創作《LeViola》念頭,一個更易於學習與彈奏中提琴的 app playground。
Yoonjae Joung 尚在韓國首爾的青少年時期,曾編碼製作控制課室電子設備的計時器;近期亦為獨居長者開發一個 AI 拍檔裝置,儘管他接觸編碼設計多年,但以 Swift 而言,他還是新手。
他說:「我想到可以用雙手彈奏樂器,同時運用相機疊加畫面協助用户調整持弓姿勢,但我完全不知道該從何著手。」為了熟悉這門編碼語言,Yoonjae Joung 運用「Claude」、OpenAI 「Codex」以及 Google「Gemini」。隨後,他嘗試運用 Create ML 訓練自己的模型,然後以 Core ML 將其整合到 app 中。
開發《LeViola》的過程中,Yoonjae Joung 希望充分運用 Apple 裝置端內置機械學習框架的功能。他解釋道:「我運用它們分析左手關節,從而判斷按下的是哪個音符。為了區分不同弦線,同時提供更真實演奏體驗,我決定同時追蹤右臂的角度。」
Yoonjae Joung 深知學習樂器的門檻所在。大多數樂器體積龐大,課程費用也相當高昂。他表示:「我視科技為連結人與人的工具。此 app 只是開始,我亦可運用今次經驗延伸至其他樂器。現在,即使不會樂器的人也能欣賞古典音樂了。
我希望更多人有機會學習樂器,享受管弦樂之趣,而 iPhone 讓這一切成為可能。」
Yoonjae Joung 目前仍專注開發《LeViola》,但他心中已有下一個結合藝術與科技的新 app 構思,
他說:「我希望創作能在真實世界中連結人與人的數碼平台。」
Apple 很榮幸以一年一度的 Swift Student Challenge 計劃,支持新一代開發人員、創作人以及企業家。世界各地數以千計的計劃參與人士建立成功事業,創辦企業及各類組織,致力於更具自主的科技、建立更美好未來。詳情請參閱 developer.apple.com/swift-student-challenge。
分享文章