我有魔法?為你劈開信息大海?
高效獲取AIGC的熱門事件🔥，更新AIGC的最新動態，生成相應的魔法簡報，節省閱讀時間👻
🔥資訊預覽
-
YaRN方法：無需微調，高效擴展語言模型上下文窗口
-
螞蟻集團與浙江大學發布原生安全框架v1.0，引領企業網絡安全新時代
-
OpenAI DevDay：開發者大會即將于2023年11月6日在舊金山盛大舉行
-
谷歌CEO指出，人工智能是谷歌未來十年的關鍵
-
谷歌新技術讓機器狗聽懂模糊指令，引發人們的好奇與期待
-
蘋果投入百萬美元加強Siri能力，致力于讓iPhone用戶通過簡單命令完成復雜任務
🪄魔法簡報
YaRN方法：無需微調，高效擴展語言模型上下文窗口
近期研究中提出了一種名為YaRN（Yet another RoPE extensioN method）的方法，用于擴展基于Transformer的大型語言模型（LLM）的上下文窗口。該方法在不需要微調的情況下，通過插值和動態計算擴展度等技術，成功擴展了模型的上下文窗口。
實驗結果顯示，YaRN方法能夠在較小的微調數據集上取得優異的表現，并且在長文檔的困惑度評估中也勝過其他上下文窗口擴展方法。該方法的優點在于計算效率高、推理成本低，且不需要修改推理代碼。研究者還發現了該方法的一些改進點，如NTK感知型插值、部分NTK插值和動態NTK插值等。
這些改進能夠解決插值過程中丟失高頻信息、局部距離損失和平均最小余弦相似度等問題，提高了模型的性能。通過YaRN方法，可以更好地擴展LLM模型的上下文窗口，從而提升其在自然語言處理任務中的表現。
螞蟻集團與浙江大學發布原生安全框架v1.0，引領企業網絡安全新時代
2023年9月8日，螞蟻集團和《信息安全研究》雜志社聯合主辦的外灘大會網絡安全分論壇在上海舉行。會上，螞蟻集團與浙江大學網絡空間安全學院發布了原生安全范式框架v1.0。
該框架集成了探尋網絡安全本源的技術思想和方法體系，包括OVTP可溯范式和NbSP零越范式兩大安全范式，以及安全平行切面技術。此舉旨在為企業安全架構設計提供指引，讓原生安全從宏觀要求走向實踐。螞蟻集團副總裁韋韜表示，現代化數字企業的架構復雜性不斷增長，而網絡安全保障的本源在于訪問是否合法。
此外，論壇上還分享了來自奇安信、平安集團等單位的行業實踐和最新研究，他們認為原生安全范式是一種高效能的安全實踐，需要更多企業和機構參與技術共建和應用探索，共同打造高安全水平的網絡空間。
OpenAI DevDay：開發者大會即將于2023年11月6日在舊金山盛大舉行
OpenAI將于2023年11月6日在舊金山舉辦首屆開發者大會OpenAI DevDay。這是一天的活動，將聚集來自世界各地的數百名開發者與OpenAI團隊一起，預覽新的工具并交流想法。與會者還可以參加由OpenAI技術人員主持的小組討論會。
自2020年推出API以來，OpenAI不斷更新API，包括最先進的模型，使開發者可以通過簡單的API調用將尖端人工智能集成到項目中。如今，超過200萬開發者正在使用GPT-4、GPT-3.5、DALL·E和Whisper，應用于各種用例，從將智能助手整合到現有應用程序中，到構建以前無法實現的全新應用和服務。
OpenAI的首席執行官Sam Altman表示：“我們期待展示我們最新的工作，以幫助開發者構建新的東西。”詳細信息可訪問devday.openai.com，并注冊接收開放注冊的通知。媒體人士如有意參加現場活動，請聯系devdaypress@openai.com。
谷歌CEO指出，人工智能是谷歌未來十年的關鍵
谷歌CEO桑達爾·皮查伊在谷歌25周歲生日的博客文章中指出，搜索依然是谷歌的核心，但是人工智能（AI）是谷歌在未來十年實現使命的關鍵。他回顧了過去25年來技術的進步，從父親使用辦公室電腦打印電子郵件到兒子通過手機快速交流的轉變，展示了技術對生活的巨大影響。
谷歌從一開始就致力于整合全球信息，讓所有人都能訪問和使用，這個使命依然是他們的核心。人工智能是谷歌關注的重點之一，他們通過機器學習和大型語言模型等技術，改進搜索結果、提供新的搜索體驗，并開發出一些令人興奮的產品創新。
谷歌也非常重視負責任的技術發展，他們制定了人工智能原則，并與專家和社區合作，共同解決與人工智能相關的問題。在未來十年和更長時間里，谷歌將繼續以人工智能為重點，通過解決各種問題和改善人們的生活來實現他們的使命。
谷歌新技術讓機器狗聽懂模糊指令，引發人們的好奇與期待
谷歌最近介紹了一項名為SayTap的方法，可以讓機器狗聽懂模糊的自然語言指令。該方法使用大型語言模型將指令轉譯成四足機器人的低層控制信號，使機器狗能夠根據指令做出相應動作。
這項研究的貢獻在于引入了足部接觸模式作為自然語言指令與輸出低層命令的橋梁，使交互式四足機器人系統更加靈活。研究者通過強化學習訓練運動控制器，并使用LLM將用戶指令轉譯成足部接觸模式。實驗結果表明，SayTap方法可以準確地將各種人類命令轉譯成接觸模式，甚至能處理非結構化和模糊的指令。
研究者表示，未來的研究方向包括測試命令與特定感受的聯系以及引入多模態輸入。通過這項研究，可以看出技術正在以超乎想象的方式改善人們的生活，同時也為開發更多有趣的應用提供了可能性。
蘋果投入百萬美元加強Siri能力，致力于讓iPhone用戶通過簡單命令完成復雜任務
蘋果每天花幾百萬美元加強Siri的能力，通過人工智能研究來讓iPhone用戶能夠通過簡單的命令完成復雜的任務。蘋果早在2019年就開始注重生成式AI技術，聘請了John Giannandrea等人才加強Siri的使用體驗。
蘋果的生成式AI團隊目前正在構建基礎模型，并且還有視覺智能和多模式人工智能團隊。雖然蘋果的生成式AI團隊人數較少，但他們已經取得了Ajax GPT的研究成果，這個大語言模型的能力超過了Open AI的Chat GPT 3.5。蘋果希望讓Ajax GPT在終端上運行，以保護用戶數據隱私。
然而，由于Ajax GPT的參數量較大，這對于蘋果來說可能是一個難題。盡管目前還沒有直接面向消費者的研究成果，蘋果CEO Tim Cook表示對生成式AI非常感興趣。
如果對AIGC感興趣，請關注我們的微信公眾號“我有魔法WYMF”，我們會定期分享AIGC最新咨詢和經典論文精讀分享，讓我們一起交流學習！！
