在程序中,,文本文件經(jīng)常用來(lái)存儲(chǔ)標(biāo)準(zhǔn)的ASCII碼文本,比如英文,、加減乘除等號(hào)這些運(yùn)算符號(hào),。文本文件也可能用于存儲(chǔ)一些其他非ASCII字符,,如基于GBK的簡(jiǎn)體中文,基于BIG5的繁體中文
等等,。在存儲(chǔ)這些字符時(shí)需要正確指定文件的編碼格式;而在讀取這些文本文件時(shí),,有時(shí)候就需要自動(dòng)判定文件的編碼格式,。
按照給定的字符集存儲(chǔ)文本文件時(shí),,在文件的最開頭的三個(gè)字節(jié)中就有可能存儲(chǔ)著編碼信息,所以,,基本的原理就是只要讀出文件前三個(gè)字節(jié),,判定這些字節(jié)的值,就可以得知其編碼的
格式,。其實(shí),,如果項(xiàng)目運(yùn)行的平臺(tái)就是中文操作系統(tǒng),如果這些文本文件在項(xiàng)目?jī)?nèi)產(chǎn)生,,即開發(fā)人員可以控制文本的編碼格式,只要判定兩種常見的編碼就可以了:GBK和UTF-8,。由于中文
Windows默認(rèn)的編碼是GBK,,所以一般只要判定UTF-8編碼格式,。
對(duì)于UTF-8編碼格式的文本文件,,其前3個(gè)字節(jié)的值就是-17,、-69,、-65,,所以,,判定是否是UTF-8編碼格式的代碼片段如下:
測(cè)試文件編碼是否為UTF-8
File file = new File(path);
InputStream ios = new java.io.FileInputStream(file);
byte[] b = new byte[3];
ios.read(b);
ios.close();
if (b[0] == -17 && b[1] == -69 && b[2] == -65)
System.out.println(file.getName() + “:編碼為UTF-8″);
else
System.out.println(file.getName() + “:可能是GBK,,也可能是其他編碼,?!?;
上述代碼只是簡(jiǎn)單判定了是否是UTF-8格式編碼的文本文件,,如果項(xiàng)目對(duì)要判定的文本文件編碼不可控(比如用戶上傳的一些HTML,、XML等文本),,可以采用一個(gè)現(xiàn)成的開源項(xiàng)目:
cpdetector,,它所在的網(wǎng)址是:http://www.oschina.net/p/cpdetector。它的類庫(kù)很小,,只有500K左右,,利用該類庫(kù)判定文本文件的代碼如下:
FileEncodeDetector
package cn.edu.cqu.tiger;
import info.monitorenter.cpdetector.io.ASCIIDetector;
import info.monitorenter.cpdetector.io.CodepageDetectorProxy;
import info.monitorenter.cpdetector.io.JChardetFacade;
import info.monitorenter.cpdetector.io.ParsingDetector;
import info.monitorenter.cpdetector.io.UnicodeDetector;
import java.io.BufferedReader;
import java.io.File;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.io.InputStream;
import java.io.InputStreamReader;
public class FileEncodeDetector {
public static String getFileEncode(String path) {
//-----------------------------------------------------------------------
detector是探測(cè)器,,它把探測(cè)任務(wù)交給具體的探測(cè)實(shí)現(xiàn)類的實(shí)例完成,。
cpDetector內(nèi)置了一些常用的探測(cè)實(shí)現(xiàn)類,,這些探測(cè)實(shí)現(xiàn)類的實(shí)例可以通過(guò)add方法
加進(jìn)來(lái),,如ParsingDetector,、 JChardetFacade、ASCIIDetector,、UnicodeDetector。
detector按照“誰(shuí)最先返回非空的探測(cè)結(jié)果,,就以該結(jié)果為準(zhǔn)”的原則返回探測(cè)到的
字符集編碼。
使用需要用到三個(gè)第三方JAR包:antlr.jar,、chardet.jar和cpdetector.jar
cpDetector是基于統(tǒng)計(jì)學(xué)原理的,,不保證完全正確,。
--------------------------------------------------------------------------
CodepageDetectorProxy detector = CodepageDetectorProxy.getInstance();
//-------------------------------------------------------------------------
ParsingDetector可用于檢查HTML、XML等文件或字符流的編碼,構(gòu)造方法中的參數(shù)用于
指示是否顯示探測(cè)過(guò)程的詳細(xì)信息,,為false不顯示。
---------------------------------------------------------------------------
detector.add(new ParsingDetector(false));
//--------------------------------------------------------------------------
JChardetFacade封裝了由Mozilla組織提供的JChardet,,它可以完成大多數(shù)文件的編碼
測(cè)定,。所以,,一般有了這個(gè)探測(cè)器就可滿足大多數(shù)項(xiàng)目的要求,,如果你還不放心,,可以
再多加幾個(gè)探測(cè)器,,比如下面的ASCIIDetector,、UnicodeDetector等。
---------------------------------------------------------------------------//
detector.add(JChardetFacade.getInstance());//用到antlr.jar,、chardet.jar
// ASCIIDetector用于ASCII編碼測(cè)定
detector.add(ASCIIDetector.getInstance());
// UnicodeDetector用于Unicode家族編碼的測(cè)定
detector.add(UnicodeDetector.getInstance());
java.nio.charset.Charset charset = null;
File f = new File(path);
try {
charset = detector.detectCodepage(f.toURI().toURL());
} catch (Exception ex) {
ex.printStackTrace();
}
if (charset != null)
return charset.name();
else
return null;
}
public static void main(String[] args) throws IOException,
FileNotFoundException {
String path = "J:\\Unicode\\ub.txt";
//Windows下Unicode探測(cè)后得到Windows-1252
String encode = getFileEncode(path);
if("Windows-1252".equalsIgnoreCase(encode))
encode = "Unicode";
File file = new File(path);
InputStream ios = new java.io.FileInputStream(file);
byte[] b = new byte[3];
ios.read(b);
ios.close();
if (b[0] == -17 && b[1] == -69 && b[2] == -65)//文件頭
System.out.println(file.getName() + ":編碼為UTF-8");
else
System.out.println(file.getName() + ":可能是GBK,,也可能是其他編碼,。");
BufferedReader bufferedReader = new BufferedReader(
new InputStreamReader(new FileInputStream(file), encode));
System.out.println(encode);
System.out.println(bufferedReader.readLine().substring(1));//去掉第一行中的文件頭
}
}
上面代碼中的detector不僅可以用于探測(cè)文件的編碼,也可以探測(cè)任意輸入的文本流的編碼,,方法是調(diào)用其重載形式:
charset=detector.detectCodepage(InputStream in, int length);
上面的字節(jié)數(shù)由程序員指定,字節(jié)數(shù)越多,,判定越準(zhǔn)確,,當(dāng)然時(shí)間也花得越長(zhǎng),。要注意,字節(jié)數(shù)的指定不能超過(guò)文本流的最大長(zhǎng)度,。
判定文件編碼的具體應(yīng)用舉例:
屬性文件(.properties)是Java程序中的常用文本存儲(chǔ)方式,,象STRUTS框架就是利用屬性文件存儲(chǔ)程序中的字符串資源。它的內(nèi)容如下所示:
#注釋語(yǔ)句
屬性名=屬性值
讀入屬性文件的一般方法是:
FileInputStream ios=new FileInputStream(“屬性文件名”);
Properties prop=new Properties();
prop.load(ios);
ios.close();
利用java.io.Properties的load方法讀入屬性文件雖然方便,但如果屬性文件中有中文,,在讀入之后就會(huì)發(fā)現(xiàn)出現(xiàn)亂碼現(xiàn)象。發(fā)生這個(gè)原因是load方法使用字節(jié)流讀入文本,,在讀入后需
要將字節(jié)流編碼成為字符串,而它使用的編碼是“iso-8859-1”,這個(gè)字符集是ASCII碼字符集,,不支持中文編碼,所以這時(shí)需要使用顯式的轉(zhuǎn)碼:
String value=prop.getProperty(“屬性名”);
String encValue=new String(value.getBytes(“iso-8859-1″),”屬性文件的實(shí)際編碼”);
在上面的代碼中,,屬性文件的實(shí)際編碼就可以利用上面的方法獲得,。當(dāng)然,象這種屬性文件是項(xiàng)目?jī)?nèi)部的,,我們可以控制屬性文件的編碼格式,,比如約定采用Windows內(nèi)定的GBK,,就直接
利用”gbk”來(lái)轉(zhuǎn)碼,,如果約定采用UTF-8,,也可以是使用”UTF-8″直接轉(zhuǎn)碼。如果想靈活一些,,做到自動(dòng)探測(cè)編碼,,就可利用上面介紹的方法測(cè)定屬性文件的編碼,從而方便開發(fā)人員的工作
,。
可以用下面代碼獲得Java支持編碼集合:
Charset.availableCharsets().keySet();
可以用下面的代碼獲得系統(tǒng)默認(rèn)編碼:
Charset.defaultCharset();