- 今天比昨天厲害 - 電子報
- Posts
- AI新聞第23刊 - 小心不要被詐騙！
這是什麼時刻你知道的！
歡迎來到AI新聞第23刊！讓我們馬上來看一下最近AI又對世界造成什麼影響！？
在這個科技一直在推進我們能做到什麼的邊緣的世界裡，深度偽造技術的出現就像打開了創新和濫用的新大門。最近，有個用先進的AI技術成功搞出了一場價值2500萬美元的大劫案的深度偽造騙子，讓網安社區整個人都嚇傻了，這也讓我們明白需要更好的對策來對抗這種越來越大的威脅。
深度偽造這個詞是"深度學習"和"偽造"的混搭，指的是用AI算法創造出來的偽造聲音或視頻，通常是為了欺騙或誤導大家。雖然一開始只是做些無害的娛樂，比如做出超逼真的名人模仿或改變電影裡的臉，但現在深度偽造技術越來越被網路壞蛋用來做壞事，包括欺詐、敲詐和造假新聞。
這次劫案是第一個用AI撈錢的詐騙案，涉及到一個用先進的AI算法模仿大公司高層的深度偽造騙子。騙子用語音合成和臉部操控技術，做出了跟真人一樣的聲音和外表，結果他們就能輕鬆繞過我們一般的身份驗證，拿到不該看到的金融信息。大家要開始有一顆警惕的心，眼晴看到的不一定是真的，不要因為情況緊張就慌了，記得一切都要加以確認，才不會讓騙子得手哦！
Google 最近發表了他們最新的 AI 模型 Gemini 1.5，這款 AI 模型在許多方面都有顯著的改進。首先，Gemini 1.5 的表現強過以前的模型，它使用了新的「專家混合」(Mixture-of-Experts) 架構，使其更有效率。更厲害的是，Gemini 1.5 能處理的資訊量大大提升，可以同時處理高達 1 百萬的 tokens，這讓它能夠一次處理大量的資訊，像是一小時的影片、11 小時的音訊、或是超過 30,000 行的程式碼。在他們的研究中，他們成功地測試了高達 1 千萬 tokens。這個新模型也對大量資訊的理解和推理有著重大突破。例如，當提供 阿波羅 11 月球任務的 402 頁筆錄時，它能理解對話、事件和文檔中的細節。Gemini 1.5 Pro 也能理解並辨識影片中的細節。當給予一部 44 分鐘的無聲電影時，模型能準確地分析各種劇情和事件，甚至能推理出影片中可能輕易被忽略的小細節。但是不是真的這麼厲害，我覺得都還是要實際使用了才知道哦！
Google對於其Gemini AI工具在某些歷史影像生成描繪中的"不準確性"道歉了。他們試圖創造出"廣泛範疇"的結果，但卻未能達到預期。這是在Google被批評其AI工具將特定白人人物（如美國開國元勛）或像納粹時期的德國士兵這樣的群體描繪成有色人種，這可能是為了過度糾正AI在長期存在的種族偏見問題。Google在聲明中表示:"我們意識到Gemini在某些歷史影像生成描繪中提供了不準確的資訊。"他們正在努力改善這些描繪。儘管Gemini的AI影像生成確實涵蓋了各種人群，並且這在全世界的使用者中普遍被認為是好事，但在這裡它並未達標。這個月初，Google開始透過其Gemini（原名Bard）AI平台提供影像生成的服務，以匹配其競爭對手如OpenAI的提供。然而，在過去的幾天裡，社交媒體的貼文質疑它是否在嘗試實現種族和性別多元性時，未能產生歷史準確的結果。有看過黑人教皇跟亞洲納碎黨成員嗎？XD 實在是太亂來啦！
威爾史密斯又再度引爆網路，這次不是因為煽巴掌，而是以一種戲謔的方式來諷刺人工智能。他最近在自己的官方Instagram上發布了一段有趣的視頻，模仿去年在網路上瘋傳的他自己用AI製作的吃意大利麵的視頻。史密斯的這段視頻，標題寫著"這已經越來越離譜了！"，巧妙地將去年三月由一名Reddit用戶"chaindrop"製作的原始AI製作的意大利麵視頻，與真正的史密斯自己以最奇怪的方式啃食意大利麵並列起來。史密斯在Instagram上的這篇帖子顯示他正在吞吃意大利麵，用他的手指將麵條倒進他的嘴裡，甚至還在咀嚼某人的頭髮，所有這些都配著Lil Jon的2006年的熱門歌曲"Snap Yo Fingers"。這兩個視頻的對比在評論區引起了一陣熱議，有些人質疑史密斯的視頻是否也是由AI製作的。有些人則在懷疑，AI視頻生成是否已經達到了與真實視頻無法區分的程度。儘管這個視頻很惡搞，但它引發了一些關於AI生成內容的影響及其對各種行業的影響的討論。因為最近Sora太火了，很多人還以為這個影片是用Sora創作的，不過就只是史密斯自己的惡搞啦！
之前提到過賣車公司的AI出了問題，1塊錢就要把車賣掉！沒想過才過沒多久，就換成航空公司了，Air Canada（加拿大航空）最近被法院判敗訴了。該公司試圖將其AI客服機器人出現的錯誤歸咎於機器人本身，但法院卻給出了相反的裁決。這起事件的起因是一位名叫Jake Moffatt的客戶，他在使用加航的AI客服機器人查詢怎樣才能申請喪親機票的資格時，被告知可以在購票後90天內申請退還差價，但這與加航的實際政策完全相反。加航拒絕了他的退款申請，於是他將加航告上了法庭。加航的辯護理由是，他們不應對其AI客服機器人的"誤導性語句"負責。然而，法庭的裁決卻認為，無論資訊來源是固定頁面還是AI客服機器人，加航都應對其網站上的所有資訊負責。意思就是說，你家的AI說的，那你就必需要負責。所以公司在使用AI工具代替人力實，還是需要多多測式，避免出包呀！
這就是AI新聞第23刊，最新AI新聞與趨勢！希望你們會喜歡！
Sora創作出來的影片，如果還沒看過的話，一定要去看一下呀！這是一個未來趨勢！絕對不能忽略呀！