二次元最懂二次元:B站开源动漫画质修复模型 超分辨率画质更好
為了讓你能高清重溫童年的XXX,AI近來(lái)沒(méi)少努力。
最近我們就發(fā)現(xiàn)了一個(gè)專為動(dòng)漫圖像而生的畫(huà)質(zhì)修復(fù)模型:
Real-CUGAN。
這個(gè)開(kāi)源模型在今天登上了GitHub熱榜,還來(lái)自b站官方。
“老二刺猿”了就是說(shuō)[狗頭]。
結(jié)構(gòu)魔改自Waiuf2x
Real-CUGAN,全名Real Cascade U-Nets for Anime Image Super Resolution。
其結(jié)構(gòu)魔改自此前大火的圖片無(wú)損放大/降噪神器——Waiuf2x(GitHub標(biāo)星23k),并可以與之無(wú)縫兼容;訓(xùn)練代碼基本來(lái)自騰訊去年剛出品的RealESRGAN(GitHub標(biāo)星9.1k)。
Waiuf2x出自日本的一位“技術(shù)宅”,原理大概就是把一堆二次元圖片縮小再和原圖放一起,通過(guò)算法讓模型自己學(xué)會(huì)了如何放大拉伸圖片。
Waiuf2x有免費(fèi)的網(wǎng)頁(yè)版供大家使用。
RealESRGAN,主要通過(guò)模擬高分辨率圖像變低分辯率過(guò)程中的各種“退化”過(guò)程,然后讓模型看到一張糊圖后倒推出來(lái)它的高清圖。
它是對(duì)超分“前輩”ESRGAN的進(jìn)一步改進(jìn),后者曾贏得ECCV2018 PIRM-SR挑戰(zhàn)賽中的第一名。
相比這兩位,Real-CUGAN都有什么獨(dú)到之處呢?
首先在訓(xùn)練集方面,前兩者都是采用私有二次元訓(xùn)練集,量級(jí)與質(zhì)量未知,Real-CUGAN則用了百萬(wàn)級(jí)高清的二次元數(shù)據(jù)集。
在推理耗時(shí)方面(目標(biāo)為1080P),如果以Waiuf2x為基線,RealESRGAN要耗費(fèi)2.2x的時(shí)間,Real-CUGAN則只需1x。
在強(qiáng)度調(diào)整方面,Waiuf2x可以支持多種降噪強(qiáng)度,RealESRGAN沒(méi)法調(diào)整,Real-CUGAN則支持4種降噪強(qiáng)度與保守修復(fù),未來(lái)還會(huì)提供不同程序的去模糊、去JPEG偽影、銳化等功能。
此外,Waiuf2x只能實(shí)現(xiàn)1倍和2倍分辨率修復(fù),RealESRGAN只支持4倍,Real-CUGAN則2~4倍都可以(1倍還在訓(xùn)練中)。
當(dāng)然,最最最重要的還是效果。
來(lái)看一些最直觀的對(duì)比圖:
可以看到,Real-CUGAN和Waiuf2x的結(jié)果都差不多,但是RealESRGAN卻沒(méi)有處理好地板紋理。
在這組對(duì)比圖中,Waiuf2x明顯不如后兩者線條清晰,而相比Real-CUGAN,RealESRGAN中人物嘴巴和下顎處的線條是虛的,有雜線。
而在這組“極致渣清型”圖片的超分效果中,Waiuf2x仍然明顯不夠清晰。
而RealESRGAN整體清晰是清晰,卻仍然出現(xiàn)了雜線,以及和明顯的偽影——只有Real-CUGAN畫(huà)面干干凈凈,表現(xiàn)最好。
為了方便更多的創(chuàng)造者,Real-CUGAN面向4類群體開(kāi)源了不同的推理參數(shù)設(shè)置。
Real-CUGAN為Windows用戶打包了一個(gè)可執(zhí)行環(huán)境(下載鏈接可在文末的倉(cāng)庫(kù)里自取)。
通過(guò)congfig文件可進(jìn)行通用參數(shù)設(shè)置:在mode中填寫(xiě)video或者image決定超視頻還是超圖像。
模型分三類,具體選哪種也給了參考:
提供了兩套參數(shù):Real-CUGAN2x標(biāo)準(zhǔn)版(denoise-level3)和Real-CUGAN2x無(wú)切割線版。
需torch>=1.0.0,配備numpy、opencv-python、moviepy模塊。
這個(gè)就不細(xì)說(shuō)了,相應(yīng)的讀者可以參見(jiàn)倉(cāng)庫(kù)的Readme說(shuō)明~
最后,Real-CUGAN也正在計(jì)劃更新更多:包括快速模型、簡(jiǎn)單的GUI、一步超到任意指定分辨率功能以及對(duì)本身效果的改進(jìn)(優(yōu)化紋理保留,削減模型處理痕跡)。
心動(dòng)的朋友可以戳下方鏈接試試手:
總結(jié)
以上是生活随笔為你收集整理的二次元最懂二次元:B站开源动漫画质修复模型 超分辨率画质更好的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 2021年全球平板出货量出炉:苹果第一
- 下一篇: 看不懂代码?AI给你做翻译 说人话的那种