摘要:çä¸æ±½è½¦è®¯ å¿«éçæé«è´¨éå¾ççè½å对äºæé é¼çç模æç¯å¢è³å ³éè¦ï¼èä¸æ¤ç±»ç¯å¢å¯ç¨äºè®
çä¸æ±½è½¦è®¯ å¿«éçæé«è´¨éå¾ççè½å对äºæé é¼çç模æç¯å¢è³å ³éè¦ï¼èä¸æ¤ç±»ç¯å¢å¯ç¨äºè®ç»èªå¨é©¾é©¶æ±½è½¦é¿å¼ä¸å¯é¢æµçå±é©ï¼ä»èæåå ¶å¨çå®éè·¯åºæ¯ä¸çå®å ¨æ§ãç¶èï¼ç®åçæå¼äººå·¥æºè½ææ¯è¶æ¥è¶å¤å°è¢«ç¨äºçææ¤ç±»å¾åï¼ä¸è¿æ¤ç±»ææ¯åå¨ç¼ºé·ãä¾å¦ï¼ä¸ç§ååæµè¡ç模åç±»å«ââæ©æ£æ¨¡åï¼å°±å¯ä»¥çææå ¶é¼ççå¾åï¼ä½æ¯å ¶å¯¹äºå¾å¤åºç¨èè¨ï¼éåº¦æ ¢ä¸éè¦å¤§éç计ç®èµæºãå¦ä¸æ¹é¢ï¼é©±å¨ChatGPTç大åè¯è¨æ¨¡åï¼LLMï¼çèªåå½æ¨¡åè½ç¶é度æ´å¿«ï¼ä½æ¯çæçå¾åè´¨éè¾ä½ï¼èä¸å¸¸å¸¸æå¾å¤é误ã
æ®å¤åªæ¥éï¼å¨æ¤èæ¯ä¸ï¼ç¾å½éº»ççå·¥å¦é¢ï¼MITï¼ä¸è±ä¼è¾¾å ¬å¸ï¼NVIDIAï¼çç 究人åç åäºä¸ç§æ°æ¹æ³ï¼æåå°ä¸è¿°ä¸¤ç§æ¹æ³çä¼å¿ç»åèµ·æ¥ãæ¤ç§æ··åå¾åçæå·¥å ·éç¨èªåå½æ¨¡åï¼å¿«éæææ´ä½ç»é¢ï¼ç¶åè¿ç¨å°åæ©æ£æ¨¡åï¼å¯¹å¾åè¿è¡ç»èä¼åãè¯¥æ¬¾å·¥å ·å为HARTï¼hybrid autoregressive transformerï¼æ··åèªåå½è½¬æ¢å¨ç缩åï¼ï¼è½å¤çæä¸å½åæå è¿çæ©æ£æ¨¡åæçæçå¾åï¼è´¨éç¸å½çè³æ´ä¼çå¾åï¼åæ¶é度æåäºä¹åã
AIå·¥å ·çæé¼çå¾åï¼å¾çæ¥æºï¼MITï¼
HARTçæå¾åçè¿ç¨ææ¶èç计ç®èµæºè¾å ¸åæ©æ£æ¨¡åæ´å°ï¼å èä½¿å ¶è½å¤å¨åç¨ç¬è®°æ¬çµèææºè½ææºä¸æ¬å°è¿è¡ãç¨æ·åªéå¨HARTçé¢è¾å ¥èªç¶è¯è¨æ示ï¼å³å¯çæå¾åãHARTå¯è½å ·æ广æ³çåºç¨åæ¯ï¼ä¾å¦å¸®å©ç 究人åè®ç»æºå¨äººï¼ä»¥å®æå¤æççå®ä¸çä»»å¡ï¼åå©è®¾è®¡å¸ä¸ºè§é¢æ¸¸ææé æ´å ·å¸å¼åçåºæ¯ã
ä¸¤å ¨å ¶ç¾
Stable DiffusionåDALL-Eçæµè¡çæ©æ£æ¨¡åè½å¤çæé«åº¦ç»èåçå¾åãæ¤ç±»æ¨¡åéè¿è¿ä»£è¿ç¨çæå¾åï¼å¨æ¤è¿ç¨ä¸ï¼æ¤ç±»æ¨¡åä¼å¯¹æ¯ä¸ªåç´ é¢æµä¸å®éçéæºåªå£°ï¼ç¶ååå»åªå£°ï¼ä¹åé¢æµè¿ç¨ä¸âå»åªâè¿ç¨ä¼è¢«éå¤å¤æ¬¡ï¼ç´è³çæä¸å¼ å®å ¨æ åªå£°çæ°å¾åã
ç±äºæ©æ£æ¨¡åå¨æ¯ä¸æ¥åé对å¾åä¸çææåç´ æ§è¡å»åªæä½ï¼å¹¶ä¸è¯¥è¿ç¨å¯è½å æ¬30æ¥ææ´å¤æ¥éª¤ï¼å æ¤æ´ä½è¿ç¨å¯è½ä¼æ¯è¾ç¼æ ¢ä¸è®¡ç®ææ¬é«æãä½æ¯ï¼å 为该模åæå¤æ¬¡æºä¼ä¿®æ£ä¹ååºéçç»èï¼å æ¤çæçå¾åè´¨éä¼å¾é«ã
èªåå½æ¨¡åå¨ææ¬é¢æµä»»å¡ä¸å¾å°äºå¹¿æ³åºç¨ï¼å¹¶ä¸å¯éè¿ä¾æ¬¡é¢æµå¾ååï¼æ¯æ¬¡å¤ä¸ªåç´ ï¼çæå¾åã尽管该模åæ æ³å溯以修æ£é误ï¼ä½æ¯æ¤ç§é¡ºåºé¢æµè¿ç¨æ¯æ©æ£æ¨¡åé度快å¾å¤ã
æ¤ç±»æ¨¡åéç¨ç§°ä½æ è®°ï¼tokensï¼ç表ç°å½¢å¼æ¥è¿è¡é¢æµãèªåå½æ¨¡åéç¨èªå¨ç¼ç å¨å°åå§å¾ååç´ å缩为离æ£æ è®°ï¼å¹¶åºäºæ¤ç±»é¢æµæ è®°é建å¾åã尽管æ¤ç§æ¹æ³æåäºæ¨¡åçé度ï¼ä½æ¯å缩è¿ç¨ä¸åççä¿¡æ¯ä¸¢å¤±å¯è½ä¼å¯¼è´æ¨¡åå¨çææ°å¾åæ¶åºç°é误ã
åå©HARTï¼ç 究人åç åäºä¸ç§æ··åæ¹æ³ï¼è¿ç¨èªåå½æ¨¡åæ¥é¢æµå缩ç离æ£å¾åæ è®°ï¼åè¿è¥å°åæ©æ£æ¨¡åæ¥é¢æµæ®å·®æ è®°ãå ¶ä¸ï¼æ®å·®æ è®°è½å¤ææ离æ£æ è®°éæ¼çç»èä¿¡æ¯ï¼è¡¥å¿æ¨¡å丢失çä¿¡æ¯ã
ç±äºæ©æ£æ¨¡ååªè½é¢æµèªåå½æ¨¡åå®æå·¥ä½åçå©ä½ç»èï¼å æ¤å ¶å¯å¨å «ä¸ªæ¥éª¤å å®æä»»å¡ãç¸æ¯ä¹ä¸ï¼æ åæ©æ£æ¨¡åé常éè¦30个æè æ´å¤æ¥éª¤æ¥çæå®æ´çå¾åãæ¤ç§é¢å¤å¼å ¥çæ©æ£æ¨¡å以æä½ç计ç®éä¿çäºèªåå½æ¨¡åçé度ä¼å¿ï¼åæ¶å¤§å¹ æåå ¶çæå¤æå¾åç»èçè½åã
å¨ç åHARTçè¿ç¨ä¸ï¼ç 究人åå¨é«ææ´åæ©æ£æ¨¡å以å¢å¼ºèªåå½æ¨¡åæ¹é¢éå°äºææãä½æ¯ä»ä»¬åç°ï¼å¨èªåå½è¿ç¨çæ©æéææ©æ£æ¨¡åä¼å¯¼è´è¯¯å·®ç´¯ç§¯ãå æ¤ï¼æç»çè®¾è®¡ä» å¨æåä¸æ¥åºç¨äºæ©æ£æ¨¡åï¼ä»¥é¢æµå©ä½æ è®°ï¼ä»èæ¾èæåäºå¾åçæçè´¨éã
ç 究人åçæ¹æ³ç»åäºå«æ7亿åæ°çèªåå½è½¬æ¢å¨æ¨¡ååå«æ3700ä¸åæ°çè½»é级æ©æ£æ¨¡åï¼è½å¤çæä¸æ¥æ20亿åæ°çæ©æ£æ¨¡ååçè´¨éçå¾åï¼ä½æ¯é度å´å¿«äºä¹åãæ¤å¤ï¼å ¶è®¡ç®éæ¯æå è¿ç模åå°çº¦31%ã
æ¤å¤ï¼ç±äºHARTéç¨èªåå½æ¨¡åï¼ä¸é©±å¨LLMç模åä¸æ ·ï¼æ¥å®æ大éå·¥ä½ï¼å æ¤å ¶æ´æä¸æ°åç»ä¸è§è§-è¯è¨çæå¼æ¨¡åéæå¨ä¸èµ·ãæªæ¥ï¼äººä»¬æ许è½å¤ä¸ç»ä¸è§è§-è¯è¨çæå¼æ¨¡åäºå¨ï¼ä¾å¦è¦æ±å ¶å±ç¤ºç»è£ ä¸ä»¶å®¶å ·æéçä¸é´æ¥éª¤ã
å±ææªæ¥ï¼ç 究人åå¸æè½å¤ç»§ç»ç 究ï¼åºäºHARTæ¶ææé è§è§-è¯è¨æ¨¡åãç±äºHARTå ·æå¯æ©å±æ§ä»¥åå¤æ¨¡æéç¨æ§ï¼å æ¤ç 究人åè¿å¸æå°å ¶åºç¨äºè§é¢çæåé³é¢é¢æµä»»å¡ã
来源:盖世汽车资讯JJ