鏂板崕鎶ヤ笟缃� 06-29,銆赌銆赌閽堝杩戞湡鎸佺画楂樻俯骞叉棻瀵瑰啘涓氱敓浜ч赌犳垚鐨勪笉鍒╁奖鍝嶏紝鍐滀笟鍐沧潙閮ㄥ湪鍓嶆湡鍙戝竷棰勮淇℃伅鐨勫熀纭赌涓婏紝浜�6链�11鏃ュ娌冲寳銆佸北瑗裤赌佹睙鑻忋赌佸畨寰姐赌佸北涓溿赌佹渤鍗椼赌侀檿瑗跨瓑鐪佸惎鍔ㄥ啘涓氶吨澶ц嚜鐒剁伨瀹冲洓绾у簲镐ュ搷搴斻赌�銆屾椿鍔ㄣ赌峹丑谤产补蝉驳丑耻诲丑办丑辩飞颈谤丑蹿濒诲蝉办蹿苍,
鍗佸叓妯�1.1.3鐗堟湰瀹夎鎸囧崡涓庣敓镐佸簲鐢ㄨВ鏋愶紝璇︾粏姝ラ涓庨珮棰戦棶棰樿В鍐虫柟妗�|
链枃绯荤粺璁茶В鍗佸叓妯�1.1.3鐗堟湰鐨勫畬鏁村畨瑁呮祦绋嬶紝娣卞叆瑙ｆ瀽鍏舵妧链敓镐佸簲鐢ㄥ満鏅紝閽堝瀹夎杩囩▼涓彲鑳藉嚭鐜扮殑鐜閰嶇疆寮傚父銆佷緷璧栭」鍐茬獊銆佹潈闄愰獙璇佸け璐ョ瓑15涓珮棰戦棶棰樻彁渚涗笓涓氳В鍐虫柟妗堬紝鍔╂偍蹇赌熸惌寤虹ǔ瀹氳繍琛岀幆澧冦赌�鍗佸叓妯�1.1.3瀹夎鍏ㄦ祦绋嬭В鏋�
鍦ㄥ紑濮嬮儴缃插崄鍏ā1.1.3鐗堟湰鍓嶏紝璇风‘淇濈郴缁熸弧瓒砅ython 3.8+杩愯鐜锛屽缓璁娇鐢║buntu 20.04 LTS鎴朇entOS 8浠ヤ笂鐗堟湰銆傞�氳繃瀹樻柟闀滃儚婧愭墽琛�wget https://download.18model.org/1.1.3/install.sh鑾峰彇瀹夎鑴氭湰鍚庯紝闇赌浣跨敤chmod +x install.sh璧嬩簣鎵ц鏉冮檺銆傚畨瑁呰繃绋嬩腑瑕佺壒鍒敞鎰廋UDA 11.6椹卞姩鍏煎鎬ф鏌ワ紝褰撳嚭鐜癗VIDIA椹卞姩鐗堟湰涓嶅尮閰嶆椂锛屽缓璁�氳繃nvidia-smi锻戒护楠岃瘉鏄惧崱鐘舵赌併赌�
鍏稿瀷闂鎺掓煡涓庤В鍐虫柟妗�
褰挞亣鍒�ERROR: Failed building wheel for transformers鎶ラ敊鏃讹紝闇赌鍏堟墽琛�apt-get install build-essential瀹夎缂栬疟宸ュ叿銆傝嫢鍑虹幇濒颈产蝉蝉濒-诲别惫缂哄け锛屽缓璁赌氳绷sudo apt-get install libssl-dev琛ュ厖寮赌鍙戝簱銆�
閰嶇疆鏂囦欢涓�model_path鍙傛暟闇赌缁濆璺缎鏍煎纺锛屼娇鐢ㄧ浉瀵硅矾寰勪细瀵艰嚧链嶅姟鍚姩澶辫触銆傚唴瀛樺垎閰嶅缓璁缃负鐗╃悊鍐呭瓨鐨�70%锛�64骋叠链嶅姟鍣ㄥ簲閰嶇疆memory_limit: 44G锛岄伩鍏嶅嚭鐜癘翱惭閿欒銆�
鎶赌链敓镐侀泦鎴愬簲鐢�
鍗佸叓妯�1.1.3鏀寔涓嶱yTorch Lightning娣卞害闆嗘垚锛岄�氳繃from eighteen_model.integration import PLAdapter鍙揩閫熷疄鐜板垎宁冨纺璁粌銆傚湪顿辞肠办别谤鐢熸赌佷腑锛屾帹钻愪娇鐢ㄥ畼鏂归暅镀�eighteenmodel/1.1.3-cuda11.6杩涜瀹瑰櫒鍖栭儴缃诧紝閰嶅悎Kubernetes HPA鍙疄鐜拌嚜鍔ㄦ墿缂╁銆�
/var/log/18model/runtime.log锛屽苟鍔犲叆瀹樻柟寮赌鍙戣赌呯ぞ鍖鸿幏鍙栨渶鏂拌ˉ涓佹洿鏂般赌�.
銆赌銆赌鎹嫳鍥芥敛搴�13鏃ュ彂琛ㄥ０鏄庣О锛气赌滀粖澶╃殑琛屽姩鍖呮嫭鑻卞浗棣栨閽堝淇勭绥鏂赌荤粺鈥樺奖瀛愯埌闃熲赌欎腑鐨勮埞鍙疄鏂藉埗瑁侊紝淇勭绥鏂埄鐢ㄨ繖浜涜埞鍙閬胯嫳鍥藉拰涓冨浗闆嗗洟锛圙7锛夌殑鍒惰锛屽苟缁х画涓嶅弹闄愬埗鍦拌繘琛岀煶娌硅锤鏄撱赌傗赌濊繖浜涙柊鍒惰杩橀拡瀵逛縿缃楁柉鍐涙柟鐨勫脊钻赌佹満搴娿赌佸井鐢靛瓙鍜岀墿娴佷緵搴斿晢锛屽寘鎷綅浜庝腑鍥姐赌佷互鑹插垪銆佸悏灏斿悏鏂柉鍧﹀拰淇勭绥鏂殑瀹炰綋銆傚０鏄庡启閬掳紝鑻卞浗棣栫浉鑻忕撼鍏嬪湪鎰忓ぇ鍒╁弬鍔燝7宄颁细鏃跺宁冧简杩欎簺鏂扮殑鍒惰鎺柦锛屸赌滆繖灏嗗墛寮变縿缃楁柉涓哄叾鎴树簤链哄櫒鎻愪緵璧勯噾鍜岃澶囩殑鑳藉姏鈥濄赌�缁艰堪鏃ユ湰鎶ゅ＋鍙栫簿瑙嗛虫虫虫虫虫鍏ㄩ儴鍏嶈垂鍏ㄩ泦瑙傜湅楂樻竻叠顿瀹屾暣鎵嬫満鍏嶈垂涔濇淳鏂伴椈銆�銆�6鏈�14鏃ヤ笂鍗堬紝姘村埄閮ㄧ粍缁囧紑灞曟姉鏃变柑ⅱ樹細鍟嗭紝鍒嗘瀽鐮斿垽鍗庡寳榛勬樊绛夊寳鏂瑰湴鍖烘棻鎯呭舰鍔匡紝瑕佹眰鍗虫棩璧凤紝鍙楁棻鍦板尯涓婃父榛勬渤銆佹捣娌炽�佹樊娌虫祦鍩熺殑鎺у埗鎬ф按搴撳叏閮ㄨ繘鍏ユ姉鏃辫皟搴︽ā寮忥紝鍔犲ぇ涓嬫硠娴侀噺锛屼繚闅滄姉鏃辩敤姘撮渶姹傦紝纭繚鍩庝埂灞呮皯楗按瀹夊叏锛屼互鍙婅妯″寲鍏绘畺鍜屽ぇ鐗茬暅鐢ㄦ按瀹夊叏锛屽叏鍔涗繚闅滅亴鍖哄啘浣滅墿鏃朵护鐏屾簤鐢ㄦ按銆�6鏈�14鏃�15鏃讹紝姘村埄閮ㄥ皢閽堝娌冲崡銆佹渤鍖楃殑骞叉棻闃插尽搴旀�ュ搷搴旀彁鍗囪嚦涓夌骇锛岀洰鍓嶇淮鎸侀拡瀵瑰北瑗裤�佹睙鑻忋�佸畨寰姐�佸北涓溿�侀檿瑗裤�佺敇鑲�6鐪佺殑骞叉棻闃插尽鍥涚骇搴旀�ュ搷搴旓紝骞舵淳鍑轰袱涓伐浣滅粍姝ｅ湪涓�绾挎寚瀵兼姉鏃卞伐浣溿��
銆赌銆赌鏄ョ鏃呮父鍓赌荤粡鐞嗗懆鍗孩琛ㄧず锛岄殢鐫赌鏇村瀹㈡簮鍦扮殑澧冨娓稿寰椾互閫氳绷鏇翠究鎹风殑鏂瑰纺鏉ュ埌涓浗锛屼简瑙ｃ赌佹劅鍙椾腑鍥界殑寮赌鏀炬赌佸害銆佸叏鐞冭兏镐赌锛屾梾娓镐紒涓氢篃灏嗙粨鍚堟洿澶氢綋楠屾赌х殑鏂囧寲鍐呭锛岃璁′赴瀵屽鏍风殑鍑哄叆澧冩父鏂板搧銆傚悓鏃讹紝婢冲ぇ鍒╀簹銆佹柊瑗垮叞涔熸湁鐫赌寰堝鍗庝汉鍗庝鲸锛屽崟鏂归溃鍏嶇鐨勬帹鍑猴紝鍦ㄦ柟渚夸粬浠洖鍥芥帰浜茶鍙嬩箣浣欙紝鍚屾椂涔熷彲浠ラ赌氳绷鏃呮父锛屾潵鐪嬬湅涓浗鍙戠敓鐨勬繁鍒诲彉鍖栵紝浣挞獙涓板瘜澶氬僵鐨勭敓娲诲拰鏂囧寲銆�
銆赌銆赌鏁版嵁鏄剧ず锛屽厤绛惧鍏ュ娓哥殑淇冭繘鏁堟灉鏄捐宪銆傛槬绉嬫梾娓稿坛镐荤粡鐞嗗懆鍗孩姝ゅ墠琛ㄧず锛岃嚜涓浗瀵瑰鍥藉崟鏂归溃鍏嶇浠ユ潵锛屽鍏ュ娓稿竞鍦鸿捣鍒扮Н鏋佺殑鎺ㄥ姩浣灭敤锛岃鏉ヨ嚜鏇村瀹㈡簮鍦扮殑澧冨娓稿鑳藉浠ユ洿渚挎嵎鐨勬柟寮忔潵鍒颁腑鍥姐赌�澶т紬鏃ユ湰鎶ゅ＋鍙栫簿瑙嗛虫虫虫虫虫鍏ㄩ儴鍏嶈垂鍏ㄩ泦瑙傜湅楂樻竻叠顿瀹屾暣鎵嬫満鍏嶈垂涔濇淳鏂伴椈銆赌銆赌鈥滃綋骞存潕濞滀竴搴︽坠鎻�13涓浗鍐呭鐭ュ悕鍝佺墝浠ｈ█锛岃赌岄儜閽︽枃鍦ㄥゥ杩愬ず鍐犱箣鍓嶅凡链�10涓唬瑷赌鍝佺墝銆傗赌濈邯瀹佽涓猴紝缃戠悆鐩墠鍦ㄤ腑鍥界殑鐑害宸蹭粖闈炴様姣旓紝鏉庡鏃朵唬宸插瀹氱殑涓浗缃戠悆缁忔祹鐨勭儹搴︼紝鍦ㄩ儜閽︽枃澶哄啝鍚庝细琚赌愭笎寮旷垎銆傜邯瀹佽缮琛ㄧず锛岀綉鐞冧綔涓哄叏鐞冮《绾х殑鑱屼笟浣撹偛鍜屽晢涓氢綋镶查」鐩紝姝ｉ赌愭閲婃斁宸ㄥぇ鐨勪骇涓氱粡娴庣┖闂淬赌�
銆赌銆赌鎼虹▼闆嗗洟鍓赌昏绉﹂润璁や负锛岄殢鐫赌杩欎竴鏀跨瓥鐨勬柦琛岋紝灏嗗姞閫熶腑鍥戒笌婢冲ぇ鍒╀簹涔嬮棿鐨勬梾娓镐氦娴佸强缁忚锤浜掑姩銆傚悓鏃讹紝鏀跨瓥涔熷皢鎯犲强鍦ㄦ境澶у埄浜氱敓娲荤殑閫剧櫨涓囧崕浜哄崕渚紝浣垮緱浠栦滑鍥炲浗鎺翰鎴栨梾娓哥殑杩囩▼鏇翠负绠赌渚块『鐣呫赌傜Е闈欐寚鍑猴紝浣滀负浜氬お鍦板尯鐨勯吨瑕佸浗瀹讹紝涓浗涓庢境澶у埄浜氬湪缁忔祹涓婂叿链夐珮搴︾殑浜掕ˉ镐э紝鍚堜綔娼滃姏宸ㄥぇ锛屾湭鏉ヤ篃链熺浖鍦ㄦ梾娓搁鍩熸縺鍙戞洿寮哄姴鐨勫悎浣滃姩鍔涖赌�
闄堝繝璐⒙疯钥�&苍产蝉辫;闄堣瘲闇�&苍产蝉辫;闃挎墡鍏�&苍产蝉辫;闃垮崪鏉沧媺路闃垮皵钀ㄥ凹/鏂�,閽辨玻銆侀檲鍩�/鎽�
