久久国产成人av_抖音国产毛片_a片网站免费观看_A片无码播放手机在线观看,色五月在线观看,亚洲精品m在线观看,女人自慰的免费网址,悠悠在线观看精品视频,一级日本片免费的,亚洲精品久,国产精品成人久久久久久久

分享

GoldenGate產(chǎn)品介紹和案例

 ysHospital 2012-10-24

GoldenGate產(chǎn)品介紹和案例

 

Oracle GoldenGate 產(chǎn)品介紹
 
 
 一、 Oracle GoldenGate技術(shù)原理
        Oracle GoldenGate軟件是一種基于log(日志)的結(jié)構(gòu)化數(shù)據(jù)復(fù)制軟件,,它通過(guò)解析源數(shù)據(jù)庫(kù)在線log或歸檔log獲得數(shù)據(jù)的增,、刪、改變化,,再將這些變化應(yīng)用到目標(biāo)數(shù)據(jù)庫(kù),,實(shí)現(xiàn)源數(shù)據(jù)庫(kù)與目標(biāo)數(shù)據(jù)庫(kù)同步、雙活,。Oracle GoldenGate 軟件可以在異構(gòu)的IT基礎(chǔ)結(jié)構(gòu)(包括幾乎所有常用操作系統(tǒng)平臺(tái)和數(shù)據(jù)庫(kù)平臺(tái))之間實(shí)現(xiàn)大量數(shù)據(jù)亞秒級(jí)的實(shí)時(shí)復(fù)制,,其復(fù)制過(guò)程簡(jiǎn)圖如下:
 
 
 
如上圖所示,Oracle GoldenGate的數(shù)據(jù)復(fù)制過(guò)程如下:
        * 利用捕捉進(jìn)程(Capture Process)在源系統(tǒng)端讀取Online Redo Log或Archive Log,,然后進(jìn)行解析,,只提取其中數(shù)據(jù)的變化如增、刪,、改操作,,并將相關(guān)信息轉(zhuǎn)換為Oracle GoldenGate自定義的中間格式存放在隊(duì)列文件中。再利用傳送進(jìn)程將隊(duì)列文件通過(guò)TCP/IP傳送到目標(biāo)系統(tǒng),。捕捉進(jìn)程在每次讀完log中的數(shù)據(jù)變化并在數(shù)據(jù)傳送到目標(biāo)系統(tǒng)后,,會(huì)寫(xiě)檢查點(diǎn),記錄當(dāng)前完成捕捉的log位置,,檢查點(diǎn)的存在可以使捕捉進(jìn)程在中止并恢復(fù)后可從檢查點(diǎn)位置繼續(xù)復(fù)制,;
        * 目標(biāo)系統(tǒng)接受數(shù)據(jù)變化并緩存到Oracle GoldenGate隊(duì)列當(dāng)中,隊(duì)列為一系列臨時(shí)存儲(chǔ)數(shù)據(jù)變化的文件,,等待投遞進(jìn)程讀取數(shù)據(jù),。隊(duì)列數(shù)據(jù)量一般只有l(wèi)og的四分之一左右;
        * Oracle GoldenGate投遞進(jìn)程從隊(duì)列中讀取數(shù)據(jù)變化并創(chuàng)建對(duì)應(yīng)的SQL語(yǔ)句,,通過(guò)數(shù)據(jù)庫(kù)的本地接口執(zhí)行,,提交到數(shù)據(jù)庫(kù)成功后更新自己的檢查點(diǎn),記錄已經(jīng)完成復(fù)制的位置,數(shù)據(jù)的復(fù)制過(guò)程最終完成,。
        由此可見(jiàn),,Oracle GoldenGate是一種基于軟件的數(shù)據(jù)復(fù)制方式,它從數(shù)據(jù)庫(kù)的log解析數(shù)據(jù)的變化,。Oracle GoldenGate將數(shù)據(jù)變化轉(zhuǎn)化為自己的格式,,直接通過(guò)TCP/IP網(wǎng)絡(luò)傳輸,無(wú)需依賴于數(shù)據(jù)庫(kù)自身的傳遞方式,,而且可以通過(guò)高達(dá)9:1的壓縮率對(duì)數(shù)據(jù)進(jìn)行壓縮,,可以大大降低帶寬需求。在目標(biāo)端,,Oracle GoldenGate可以通過(guò)交易重組,,分批加載等技術(shù)手段大大加快數(shù)據(jù)投遞的速度和效率,降低目標(biāo)系統(tǒng)的資源占用,,可以在亞秒級(jí)實(shí)現(xiàn)大量數(shù)據(jù)的復(fù)制,,并且目標(biāo)端數(shù)據(jù)庫(kù)是活動(dòng)的。
        Oracle GoldenGate支持多種拓?fù)浣Y(jié)構(gòu),,為用戶數(shù)據(jù)復(fù)制方案的靈活性,、先進(jìn)性奠定基礎(chǔ),如圖所示:
 

Oracle GoldenGate各種拓?fù)浣Y(jié)構(gòu)示意圖
1.     單向數(shù)據(jù)復(fù)制:由一個(gè)源數(shù)據(jù)庫(kù)復(fù)制到一個(gè)目的數(shù)據(jù)庫(kù),,一般用于高可用性和容災(zāi),,為生產(chǎn)機(jī)保持一個(gè)活動(dòng)的備用數(shù)據(jù)庫(kù),從而在發(fā)生災(zāi)難的時(shí)候迅速切換,,減少數(shù)據(jù)丟失和停機(jī)時(shí)間,;
2.     雙向數(shù)據(jù)復(fù)制:利用Oracle GoldenGate可以實(shí)現(xiàn)兩個(gè)數(shù)據(jù)庫(kù)之間數(shù)據(jù)的雙向復(fù)制,任何一方的數(shù)據(jù)變化都會(huì)被傳遞到另一端,,可以利用此模式開(kāi)展雙業(yè)務(wù)中心;
3.     廣播復(fù)制:由一個(gè)數(shù)據(jù)庫(kù)向多個(gè)數(shù)據(jù)庫(kù)復(fù)制,,利用Oracle GoldenGate的數(shù)據(jù)過(guò)濾功能可以實(shí)現(xiàn)數(shù)據(jù)的有選擇分發(fā),;
4.     集中復(fù)制:由多個(gè)數(shù)據(jù)庫(kù)向一個(gè)數(shù)據(jù)庫(kù)復(fù)制,可以將分布的,、跨平臺(tái)或異構(gòu)的多個(gè)數(shù)據(jù)庫(kù)集中到一個(gè)數(shù)據(jù)庫(kù),。此種模式廣泛應(yīng)用于N+1模式的容災(zāi),通過(guò)將多個(gè)系統(tǒng)數(shù)據(jù)庫(kù)集中到一起,,可以充分利用備份中心的設(shè)施,,大幅減少投資;另外也用于跨平臺(tái)多系統(tǒng)的數(shù)據(jù)集成,,為這些提供系統(tǒng)提供一個(gè)統(tǒng)一視圖便于查詢和統(tǒng)計(jì)數(shù)據(jù),。
5.     多層復(fù)制:由A數(shù)據(jù)庫(kù)向B復(fù)制,同時(shí)又由BC復(fù)制,可以在以上幾種模式基礎(chǔ)上無(wú)限制擴(kuò)展,。
由此可見(jiàn),,Oracle GoldenGate的復(fù)制模式非常靈活,用戶可以根據(jù)自己的需求選擇特定的復(fù)制方式,,并根據(jù)系統(tǒng)擴(kuò)展對(duì)復(fù)制進(jìn)行擴(kuò)展
二,、    復(fù)制的可靠性
Oracle GoldenGate 可以提供可靠的數(shù)據(jù)復(fù)制,主要體現(xiàn)在下面三點(diǎn):
*保證事務(wù)一致性
Oracle GoldenGate 在災(zāi)備數(shù)據(jù)庫(kù)應(yīng)用復(fù)制數(shù)據(jù)庫(kù)交易的順序與在生產(chǎn)中心數(shù)據(jù)庫(kù)上的順序相同,,并且按照相同的事務(wù)環(huán)境提交,,確保在目標(biāo)系統(tǒng)上數(shù)據(jù)的完整性和讀一致性,為實(shí)時(shí)查詢和事務(wù)處理創(chuàng)造了條件,。
*檢查點(diǎn)機(jī)制保障數(shù)據(jù)無(wú)丟失
Oracle GoldenGate的抽取和復(fù)制進(jìn)程使用檢查點(diǎn)機(jī)制記錄完成復(fù)制的位置,。對(duì)于抽取進(jìn)程,其檢查點(diǎn)記錄當(dāng)前已經(jīng)抽取log的位置和寫(xiě)隊(duì)列文件的位置,;對(duì)于投遞進(jìn)程,,其檢查點(diǎn)記錄當(dāng)前讀取隊(duì)列文件的位置。檢查點(diǎn)機(jī)制可以保證在系統(tǒng),、網(wǎng)絡(luò)或Oracle GoldenGate進(jìn)程故障重啟后數(shù)據(jù)無(wú)丟失,。
*可靠的數(shù)據(jù)傳輸機(jī)制
Oracle GoldenGate 用應(yīng)答機(jī)制傳輸交易數(shù)據(jù),只有在得到確認(rèn)消息后才認(rèn)為數(shù)據(jù)傳輸完成,,否則將自動(dòng)重新傳輸數(shù)據(jù),,從而保證了抽取出的所有數(shù)據(jù)都能發(fā)送到備用端。數(shù)據(jù)傳輸過(guò)程中支持128位加密和數(shù)據(jù)壓縮功能,;


三,、 GoldenGate支持操作系統(tǒng)和數(shù)據(jù)庫(kù)類(lèi)型
Oracle GoldenGate可以在異構(gòu)的IT基礎(chǔ)結(jié)構(gòu)之間實(shí)現(xiàn)大量數(shù)據(jù)的亞秒級(jí)的數(shù)據(jù)捕捉、轉(zhuǎn)換和投遞,。Oracle GoldenGate支持幾乎所有常用操作系統(tǒng)和數(shù)據(jù)庫(kù)平臺(tái),,如下表所示:
 

操作系統(tǒng)
數(shù)據(jù)庫(kù)
Windows 2000, 2003, XP
Sun Solaris
HP-UX
IBM AIX
Linux
HP TRU64
HP OpenVMS
HP NonStop
IBM z/OS
Capture(捕獲)
Delivery(投遞):
Oracle
IBM DB2
MS SQL Server
Sybase ASE
Teradata
Enscribe
SQL/MP
SQL/MX
Oracle
IBM DB2
MS SQL Server
Sybase ASE
MySQL
Teradata
Enscribe
SQL/MP
SQL/MX
Ingres
HP Neoview
任何ODBC兼容數(shù)據(jù)庫(kù)
 

 


 
五、 Oracle GoldenGate部分客戶名單

銀行業(yè)
ABN India
ANZ Australia
ANZ New Zealand
Allied Irish Banks
Andrhaa Bank
Banca Sella
Banco de Credito e Inversion (BCI)
Banco Internacional, S.A. - BITAL
Banco Nacional de Mexico 
Bank Gospodarki Zywnosciowej
Bank Mandiri
Bank of America(美國(guó)銀行)
Bank of Ayudhya 
Bank Central Asia
Bank of Executives
Bank of Indonesia
Bank Mandiri
Bank Negara Indonesia
Bank One
Bankart
BiK
Borica
China Trust Commercial Bank
Comerica
Commercial Bank of Greece
Consorzio Triveneto Spa
Emirates Bank International
Eurobank
Fleet Financial Services
FSPA Foereningssparbanken
Global Trust Bank
Government Savings Bank
HDFC Bank
HSBC(匯豐銀行)
Hsinchu Bank
Huntington Services Corp.
ICICI BANK
Industry Construction Bank
Knet
Korean Exchange Bank
Muzo
National Australia Group
National Bank Of Greece
OTP Bank
PKO Bank Polski
Postbank
Punjab National Bank
Rabobank
Shanghai Commercial and Savings Bank
Siam City Bank
State Bank of India
State Bank of Mauritius
Taitung Business Bank
Toronto Dominion Bank
Transbank S.A.
Twinsoft for Deutsche Bahn
Ulster Bank
U.S. Bank (US Bancorp)
Unibanco
Union Bank of India
UTI Bank
Wachovia
Washington Mutual Bank
Wells Fargo
World Savings
金融保險(xiǎn)業(yè)
ABN Amro
Affinitas (Consortia)
Alliance and Leicester
Arta Jasa
Assurant Inc.
ATH Costa Rica
Austrian Payment Systems
Bankserv
Benefit
Bolsa de Valores de Columbia
Bombay Stock Exchange
Bursatec (Mexican Stock Exchange)
Capital Securities
Cardsystems Solutions
CIBC
Concord EFS - Datawise
Everlink Payment Systems
Federated Investors
Fidelity Information Services
First Data Resources Australia Pte Ltd
Hanvit Securities
First Tennessee
Girobankard
Hyundai Securities
ITS Inc.
JCB International Co.
Jih Sun Securities
KeyCorp
Kookmin Credit
LG Card (LGC) 
Lotte Card
Link Interchange Network
Market Axess Corporation
MasterLink Futures Corporation
MasterLink Securities
Merrill Lynch
National Credit Card Centre
National Processing Company
NYCE Corporation
PayPoint
Paymentech
Polaris Securities
Polcard
PreHoldings (ITC Financial)
Promisant
Pulse EFT
Raymond James Associates
Regionsykehuset i Tromsoe Samsung Card
Samsung Securities
Samsung Winners Card
Speedway Superamerica
Stored Value Systems
T-Chek Systems
Total Systems
Transacty
Travelers Express
UBS
VISA
Western Union

Woori Securities
衛(wèi)生服務(wù)業(yè)
Antelope Valley Hospital
Baptist Health
Bronx Lebanon
Continuum Health Partners
EHIT
Fresno Community Hospital 
Group Health
Health Alliance of Cincinnati
Huntsville Hospital
INOVA Health Systems
Iowa Health System
Kettering Medical Center
Legacy Health System
Mayo Clinic Foundation
Montefiore Medical Center
Nebraska Health Systems
North Carolina Baptist Health
Oakwood Healthcare Systems
OSF Healthcare
Park Nicollet Health Services
Parkview Health Systems
Peace Health
Schering-Plough
Sharp Healthcare
Sisters of Charity of Leavenworth
St. Francis Hospital
St. Joseph's Hospital
Thomas Jefferson University Hospital
University of Chicago Hospitals
University of California - San Francisco
電信業(yè)
海南移動(dòng)
Adelphia Communications Corp.
BCE/Emergis
BellSouth
Cable One
Cablevision Systems Corp.
Comcast Communications Inc.
Continental Datagraphics
Dell USA
DirecTV
Genpass Technologies
Getronics
Matav 
NuWave Technologies, Inc.
Postini
Procomp
Singapore Computer Systems
SIS/ADP
Sprint
Syscom
Texas Electronic Information Comp.
Toyo Information Systems
West Corp 
電子商務(wù),,零售,,交通等
中華人民共和國(guó)海關(guān)總署
Boston Consulting Group
CIMA
Copperweld
Duke Energy
Genuine Auto Parts Company
Gillette
Hertz
Hyundai Motor America
Japan Airlines International

Korea Ministry of Information and Communication
Mirage Resorts
MGM Grand
Office of Military Manpower Admin.
Orbitz
Overstock.com
Party City
Publix Super Markets
Ross
Sabre Holdings
Safeway
Sandia National Labs - U.S. DoE
Shell Oil 
Southwest.com
U.S. Air Force
U.S. Department of Defense
US Foodservice
Valero Energy Corporation
Water Corporation of Western Australia

 


 
附錄成功案例
案例一中國(guó)海關(guān)總署遠(yuǎn)程容災(zāi)
 

H2000系統(tǒng)是目前的主干業(yè)務(wù)系統(tǒng),為全國(guó)企業(yè)以及個(gè)人提供業(yè)務(wù),,各地方通過(guò)網(wǎng)絡(luò)連接位于北京總部的信息中心實(shí)現(xiàn)通關(guān)業(yè)務(wù),。
1 某信息中心所面臨的幾個(gè)問(wèn)題
信息中心支撐其主干業(yè)務(wù)的IT系統(tǒng)位于北京的總信息中心,并且對(duì)于某些關(guān)口需要提供7X24小時(shí)的通關(guān)業(yè)務(wù),。數(shù)據(jù)的高度集中帶來(lái)了信息的高風(fēng)險(xiǎn),,一旦系統(tǒng)癱瘓不能提供業(yè)務(wù),甚至造成數(shù)據(jù)丟失,,這在業(yè)務(wù)里是不允許存在的,。于是,,必須建設(shè)H2000系統(tǒng)的災(zāi)備系統(tǒng)來(lái)防備災(zāi)難發(fā)生,;同時(shí),總信息中心支撐全國(guó)業(yè)務(wù),負(fù)載會(huì)過(guò)大,,于是提出了災(zāi)備系統(tǒng)同時(shí)提供服務(wù)并保持兩端數(shù)據(jù)同步的規(guī)劃,。這一規(guī)劃的實(shí)現(xiàn),,將使海關(guān)的IT服務(wù)提升到另外一個(gè)高度,,是世界高科技技術(shù)與中國(guó)國(guó)情有機(jī)結(jié)合的成功案例,在國(guó)內(nèi)將有轟動(dòng)性的效應(yīng),。
建設(shè)中面臨著以下幾個(gè)問(wèn)題:
* 建設(shè)總生產(chǎn)中心的災(zāi)備系統(tǒng),,提供7*24小時(shí)的通關(guān)服務(wù);為了提高對(duì)地域性災(zāi)難的防災(zāi)能力,,兩端系統(tǒng)距離遠(yuǎn),。
* 從業(yè)務(wù)切換要求看,平時(shí)廣州災(zāi)備中心為總署提供災(zāi)難接管服務(wù),。而且定期會(huì)將業(yè)務(wù)全部切換到廣州進(jìn)行,。這樣兩端要求能提供報(bào)關(guān)業(yè)務(wù)數(shù)據(jù)實(shí)時(shí)同步。
通過(guò)調(diào)研和測(cè)試,,某信息中心選擇了Oracle GoldenGate軟件平臺(tái)做為整個(gè)解決方案的核心,。
2 Oracle GoldenGate 數(shù)據(jù)同步的應(yīng)用
系統(tǒng)拓?fù)鋮⒖紙D如下:

 
環(huán)境中有兩個(gè)信息中心分別為總信息中心和分信息中心,總信息中心中由3臺(tái)IBM P690(操作系統(tǒng)為AIX 5.2)服務(wù)器和EMC的DMX1000存儲(chǔ)系統(tǒng)搭建的Cluster系統(tǒng),,運(yùn)行Oracle 9.2.0.5 RAC并行數(shù)據(jù)庫(kù)系統(tǒng),,分信息中心中由2臺(tái)IBM P690(操作系統(tǒng)為AIX 5.2)服務(wù)器和EMC的DMX1000存儲(chǔ)系統(tǒng)搭建的Cluster系統(tǒng),運(yùn)行Oracle 9.2.0.5 RAC并行數(shù)據(jù)庫(kù)系統(tǒng),,數(shù)據(jù)庫(kù)中包括報(bào)關(guān)單和備案數(shù)據(jù)表兩部分內(nèi)容,;在總信息中心接管業(yè)務(wù)時(shí)間內(nèi)需要做北京到廣州的數(shù)據(jù)復(fù)制,在分中心接管業(yè)務(wù)時(shí)間內(nèi)需要做廣州到北京的數(shù)據(jù)復(fù)制,。與此同時(shí)兩地的數(shù)據(jù)庫(kù)需要把兩個(gè)信息中心的數(shù)據(jù)實(shí)時(shí)復(fù)制到各自的本地備份系統(tǒng)中,。
在分中心現(xiàn)有系統(tǒng)中,Oracle GoldenGate配置為總信息中心和分中心的雙向復(fù)制方式,。通過(guò)各自系統(tǒng)上配置的兩個(gè)抓取和兩個(gè)復(fù)制進(jìn)程,,總署產(chǎn)生的交易數(shù)據(jù)會(huì)實(shí)時(shí)復(fù)制到分中心,分中心產(chǎn)生的交易數(shù)據(jù)會(huì)實(shí)時(shí)復(fù)制到總署,。由于現(xiàn)有各關(guān)交易數(shù)據(jù)全部在總署處理。所以數(shù)據(jù)復(fù)制總是從總署到分中心,,總署抓取進(jìn)程產(chǎn)生的數(shù)據(jù)隊(duì)列文件是實(shí)時(shí)在增長(zhǎng)的,,而分中心由于沒(méi)有處理各關(guān)的交易數(shù)據(jù),分中心抓取進(jìn)程產(chǎn)生的隊(duì)列不增長(zhǎng),。自從2004年12月份,,雙向數(shù)據(jù)復(fù)制關(guān)系建立起來(lái)后,總署的數(shù)據(jù)一直正常復(fù)制到分中心,每天產(chǎn)生的復(fù)制數(shù)據(jù)隊(duì)列為4G左右,,每天數(shù)據(jù)庫(kù)產(chǎn)生的log量20G左右,,兩中心之間的網(wǎng)絡(luò)帶寬僅為2M即可保證復(fù)制正常運(yùn)行,日常復(fù)制數(shù)據(jù)延時(shí)在3秒以內(nèi),。
為了能夠進(jìn)行容災(zāi)演練和人員輪休,,當(dāng)前使用每隔四個(gè)月切換一次的方式由北京和廣州輪流對(duì)外提供業(yè)務(wù),其切換時(shí)間僅僅為3分鐘,,大大高于客戶預(yù)期,,得到了很高的評(píng)價(jià),是我國(guó)當(dāng)前遠(yuǎn)距離容災(zāi)的一個(gè)典型案例,。


案例二國(guó)家稅務(wù)總局災(zāi)備
1       應(yīng)用背景
隨著信息化技術(shù)在稅收征管業(yè)務(wù)上的廣泛應(yīng)用,,稅收工作比以往任何時(shí)候都更依賴于計(jì)算機(jī)系統(tǒng)。按照國(guó)家稅務(wù)總局的總體要求,,各省,、直轄市、計(jì)劃單列市國(guó)稅局和地稅局均實(shí)現(xiàn)了綜合征管信息系統(tǒng)的省級(jí)大集中處理,。在征管數(shù)據(jù)實(shí)現(xiàn)省級(jí)集中處理后,,各關(guān)鍵業(yè)務(wù)應(yīng)用系統(tǒng),及其有關(guān)數(shù)據(jù)和信息都將集中存儲(chǔ)在省級(jí)局的數(shù)據(jù)中心,。在這種情況下,,省局?jǐn)?shù)據(jù)中心將承擔(dān)起支撐并確保全省各地基層單位稅收征管業(yè)務(wù)正常運(yùn)行的重要責(zé)任。
由于信息和處理的集中,,不可預(yù)見(jiàn)的故障和風(fēng)險(xiǎn)也趨于集中,,在省級(jí)集中處理系統(tǒng)的內(nèi)、外部環(huán)境中,,任何一個(gè)關(guān)鍵環(huán)節(jié)出現(xiàn)不可恢復(fù)的災(zāi)難時(shí),,全省各地的稅收征管工作將遭受不可挽回的損失。為有效地防范災(zāi)難對(duì)信息系統(tǒng)的沖擊,,國(guó)稅總局開(kāi)始籌備建設(shè)南海災(zāi)備中心,,利用數(shù)據(jù)庫(kù)復(fù)制技術(shù)將各省級(jí)國(guó)稅局和各省地稅的業(yè)務(wù)數(shù)據(jù)實(shí)時(shí)備份至南海災(zāi)備中心。根據(jù)國(guó)稅總局要求,,遠(yuǎn)程容災(zāi)系統(tǒng)的指標(biāo)必須滿足RTO < 4Hr和RPO < 24Hr,,同時(shí)對(duì)生產(chǎn)系統(tǒng)影響小。
2       應(yīng)用介紹
國(guó)稅總局選擇江西地稅,、廈門(mén)國(guó)稅和深圳國(guó)稅3個(gè)單位作為遠(yuǎn)程災(zāi)備項(xiàng)目的試點(diǎn),,采用基于Oracle GoldenGate的遠(yuǎn)程災(zāi)備方案,能夠滿足國(guó)稅總局對(duì)遠(yuǎn)程容災(zāi)系統(tǒng)建設(shè)的基本要求,。根據(jù)總局統(tǒng)一規(guī)劃部署,,考慮試點(diǎn)單位綜合征管系統(tǒng)現(xiàn)狀及金稅工程(三期)總體規(guī)劃,,在南海搭建與試點(diǎn)單位業(yè)務(wù)系統(tǒng)相同規(guī)模的數(shù)據(jù)庫(kù),利用Oracle GoldenGate同一復(fù)制技術(shù),,統(tǒng)一完成從3個(gè)試點(diǎn)單位的生產(chǎn)中心到南海備份中心數(shù)據(jù)庫(kù)的數(shù)據(jù)復(fù)制,,從而實(shí)現(xiàn)各試點(diǎn)單位的征管業(yè)務(wù)數(shù)據(jù)的遠(yuǎn)程容災(zāi)。


試點(diǎn)單位綜合征管系統(tǒng)數(shù)據(jù)容災(zāi)示意圖如下:
 
 
各試點(diǎn)單位CTAIS 2.0核心數(shù)據(jù)庫(kù)數(shù)據(jù)情況表:
試點(diǎn)單位
數(shù)據(jù)量
log增量
年增長(zhǎng)量
江西地稅
800G
每天20G
150G
廈門(mén)國(guó)稅
100G
每天10G
10G
深圳國(guó)稅
400G
每天20G
100G
 
根據(jù)監(jiān)控統(tǒng)計(jì)報(bào)告,,各試點(diǎn)單位災(zāi)備系統(tǒng)Oracle GoldenGate軟件平均資源占用表:
試點(diǎn)單位
到南海的距離
log增量
源端CPU
占用率
目標(biāo)端CPU
占用率
網(wǎng)絡(luò)帶寬
占用
延遲
江西地稅
800公里
每天20G
0.1%
0.1%
<=100k/s
<=3s
廈門(mén)國(guó)稅
700公里
每天10G
0.1%
0.1%
<=50k/s
<=3s
深圳國(guó)稅
150公里
每天20G
0.1%
0.1%
<=100k/s
<=3s
 
3       應(yīng)用特點(diǎn)
對(duì)于試點(diǎn)單位的災(zāi)備系統(tǒng),,基于Oracle GoldenGate的災(zāi)備解決方案具有以下特點(diǎn):
3.1      最低帶寬和最大數(shù)據(jù)保護(hù)
在遠(yuǎn)距離容災(zāi)系統(tǒng)中,由于距離限制無(wú)法采用同步的復(fù)制方式,,只能采取異步復(fù)制,。Oracle GoldenGate能夠即時(shí)捕捉數(shù)據(jù)變化,抽取的數(shù)據(jù)變化僅為log量的1/4,,另外Oracle GoldenGate的高達(dá)1/9的數(shù)據(jù)壓縮算法,,使網(wǎng)絡(luò)上傳輸?shù)臄?shù)據(jù)量在各類(lèi)技術(shù)中最小,可以低帶寬如幾兆專線實(shí)現(xiàn)每日l(shuí)og增量上百G的大交易量數(shù)據(jù)交易,,大幅降低了投資,。同時(shí),在網(wǎng)絡(luò)帶寬一定情況下也降低了網(wǎng)絡(luò)造成的延遲,,在生產(chǎn)中心到備份中心的復(fù)制過(guò)程中延時(shí)在秒一級(jí)(一般可以在3秒內(nèi)完成復(fù)制),,在生產(chǎn)中心發(fā)生災(zāi)難無(wú)法恢復(fù)時(shí),系統(tǒng)的數(shù)據(jù)丟失可以控制在幾秒以內(nèi),,可以對(duì)數(shù)據(jù)達(dá)到最大保護(hù),。
3.2      快速的業(yè)務(wù)接管
       Oracle GoldenGate復(fù)制的目標(biāo)數(shù)據(jù)庫(kù)在實(shí)時(shí)復(fù)制過(guò)程中始終處于活動(dòng),因此在源數(shù)據(jù)庫(kù)主機(jī)出現(xiàn)故障導(dǎo)致系統(tǒng)中止服務(wù)后可以立即切換到備用端,,其RTO可以達(dá)到最小化,,對(duì)于保障地稅業(yè)務(wù)系統(tǒng)的無(wú)間斷運(yùn)行有著非常重大的意義。
3.3      N+1模式的災(zāi)備能夠減少投資和便于擴(kuò)展
通過(guò)使用Oracle GoldenGate,,各省市局?jǐn)?shù)據(jù)可以復(fù)制到同一個(gè)備份中心,,多個(gè)系統(tǒng)數(shù)據(jù)可以存放于同一個(gè)或多個(gè)主機(jī)、數(shù)據(jù)庫(kù),、數(shù)據(jù)庫(kù)實(shí)例中,,使設(shè)備的到充分利用,節(jié)省了大量投資,,簡(jiǎn)化了維護(hù)工作,。同時(shí),還可以將多個(gè)分中心的數(shù)據(jù)集中于一個(gè)數(shù)據(jù)庫(kù)實(shí)現(xiàn)數(shù)據(jù)的邏輯集中,,為各系統(tǒng)數(shù)據(jù)提供了一個(gè)統(tǒng)一的視圖,,以便于統(tǒng)一查詢和統(tǒng)計(jì)以及進(jìn)一步的數(shù)據(jù)挖掘。
3.4      對(duì)源系統(tǒng)的影響小
Oracle GoldenGate優(yōu)秀的log分析技術(shù)使得其在復(fù)制過(guò)程中極少與源數(shù)據(jù)庫(kù)交互,,且無(wú)須在數(shù)據(jù)庫(kù)中插入表或觸發(fā)器,,從而對(duì)源數(shù)據(jù)庫(kù)運(yùn)行影響非常小。


案例三中國(guó)國(guó)家體育總局體彩中心
1       體彩中心介紹
體育彩票中心是國(guó)家體育總局直屬機(jī)構(gòu),。1994年3月11日,,國(guó)務(wù)院批準(zhǔn)國(guó)家體委在全國(guó)范圍內(nèi)發(fā)行體育彩票。1994年4月5日國(guó)家體育運(yùn)動(dòng)委員會(huì)體育彩票管理中心(簡(jiǎn)稱國(guó)家體彩中心)正式成立,,隨之各省市紛紛成立了分中心,,建立了全國(guó)公開(kāi)發(fā)行的銷(xiāo)售網(wǎng)絡(luò)。自此,,中國(guó)體育彩票業(yè)開(kāi)始走上了統(tǒng)一發(fā)行,、統(tǒng)一印制、統(tǒng)一分配和集中管理的規(guī)范化道路,。中國(guó)體育彩票歷經(jīng)風(fēng)風(fēng)雨雨,,從早期開(kāi)發(fā)到規(guī)模發(fā)行的中期發(fā)展階段,在籌集體育經(jīng)費(fèi)方面發(fā)揮著越來(lái)越重要的作用,,成為體育產(chǎn)業(yè)中的“支柱性產(chǎn)業(yè)”,。
2       體彩中心所面臨的問(wèn)題
體彩中心擔(dān)負(fù)著全國(guó)各省市體育彩票的發(fā)行和管理工作,為了更好的對(duì)體育彩票的發(fā)行和管理執(zhí)行支持,,國(guó)家體彩中心將全國(guó)劃分為4個(gè)區(qū),,在天津、武漢,、廣州和成都建立了四個(gè)數(shù)據(jù)分中心分別對(duì)本區(qū)域內(nèi)體育彩票銷(xiāo)售提供數(shù)據(jù)服務(wù),,具體為天津分中心負(fù)責(zé)北京、黑龍江,、吉林,、河南、山東,、山西,、天津、遼寧(內(nèi)蒙),、河北共10省市,,武漢分中心負(fù)責(zé)浙江、安徽,、江蘇,、上海、湖北,、江西共6省市,,廣州分中心負(fù)責(zé)廣東、海南,、福建,、廣西,、湖南共5省,成都分中心負(fù)責(zé)四川(西藏),、貴州,、云南、重慶,、陜西,、甘青寧、新疆共10省市,。各分中心支持一個(gè)省市(或多個(gè)省市)的數(shù)據(jù)庫(kù)均為IBM主機(jī),,采用HACMP實(shí)現(xiàn)雙機(jī)互備。
體育彩票的銷(xiāo)售數(shù)據(jù)經(jīng)過(guò)了公證,,必須在各種災(zāi)難發(fā)生時(shí)能夠保證其完整性和可用性,。體彩中心根據(jù)國(guó)務(wù)院關(guān)于容災(zāi)備份系統(tǒng)建設(shè)的各項(xiàng)精神,在北京建立災(zāi)備中心,,將各省市銷(xiāo)售數(shù)據(jù)實(shí)時(shí)復(fù)制到備用數(shù)據(jù)庫(kù),,使得體彩中心在各分中心發(fā)生異常后擁有一份可用的備份數(shù)據(jù),避免銷(xiāo)售數(shù)據(jù)丟失帶來(lái)重大經(jīng)濟(jì)損失和社會(huì)影響,。體彩中心災(zāi)備建設(shè)的難點(diǎn)在于:
2.1 源系統(tǒng)多且分散
31個(gè)省市級(jí)數(shù)據(jù)庫(kù)分布在4個(gè)區(qū)域中心,,如何對(duì)這些數(shù)據(jù)庫(kù)全部備份是一個(gè)難題,同時(shí)要考慮到投資,。
2.2 帶寬較低
在北京災(zāi)備中心和四個(gè)區(qū)域中心之間只有2條2M專線,,該區(qū)域中心多個(gè)省市的數(shù)據(jù)庫(kù)都要經(jīng)由該鏈路復(fù)制到北京,因此如何有效利用帶寬是體彩中心需要考慮的一個(gè)問(wèn)題,。
3       Oracle GoldenGate在體彩中心的應(yīng)用
為了能夠便于維護(hù)和管理,、最小化投資,體彩中心采用了N+1模式的容災(zāi),,將災(zāi)備中心選在北京,,建立了一個(gè)HP Superdome雙機(jī)組成的Oracle RAC,將所有省市的數(shù)據(jù)通過(guò)Oracle GoldenGate數(shù)據(jù)復(fù)制軟件實(shí)時(shí)備份到此數(shù)據(jù)庫(kù),,從而達(dá)到了容災(zāi)的目的,。系統(tǒng)拓?fù)鋮⒖紙D如下:
體彩中心災(zāi)備系統(tǒng)框圖
 
在各分中心,體彩中心分別配置了若干臺(tái)IBM P570h主機(jī)為其范圍內(nèi)省市提供數(shù)據(jù)服務(wù),,每?jī)膳_(tái)組成雙機(jī)互備,,正常情況下一臺(tái)提供服務(wù),另外一臺(tái)待用,,準(zhǔn)備在當(dāng)前主機(jī)出現(xiàn)問(wèn)題接替工作,。我們?yōu)槊總€(gè)省數(shù)據(jù)庫(kù)服務(wù)器配置Oracle GoldenGate軟件抽取模塊,實(shí)時(shí)抓取數(shù)據(jù)變化,然后通過(guò)網(wǎng)絡(luò)傳輸?shù)奖本┑膫浞葜行摹?/span>
在災(zāi)備中心,,配置兩臺(tái)16CPU的HP Superdome組成的Oracle 10g R2 RAC作為備用數(shù)據(jù)庫(kù),。由于體彩中心總數(shù)據(jù)量約1T左右,每日數(shù)據(jù)增量總數(shù)在20G左右,,使用當(dāng)前HP雙機(jī)組成的RAC完全能夠滿足對(duì)所有省市數(shù)據(jù)庫(kù)的數(shù)據(jù)交易需求,。鑒于體彩中心建立數(shù)據(jù)備份的目的是為了數(shù)據(jù)容災(zāi),因此我們?cè)谀繕?biāo)端為不同省市建立了不同數(shù)據(jù)庫(kù)用戶,,將各省市數(shù)據(jù)復(fù)制到各自用戶下的表中,方便在發(fā)生災(zāi)難時(shí)通過(guò)Oracle GoldenGate導(dǎo)出數(shù)據(jù)并恢復(fù)到生產(chǎn)中心,。為了在雙機(jī)環(huán)境下實(shí)現(xiàn)節(jié)點(diǎn)間的負(fù)載均衡,,我們將四個(gè)備份中心劃分為兩個(gè)組,廣州和四川中心傳送過(guò)來(lái)的數(shù)據(jù)由節(jié)點(diǎn)A承擔(dān),,天津和武漢分中心的數(shù)據(jù)由節(jié)點(diǎn)B承擔(dān),,從而實(shí)現(xiàn)RAC雙節(jié)點(diǎn)共同工作完成所有省市數(shù)據(jù)的接收。
目前為止,,所有復(fù)制關(guān)系建立起來(lái)后,,各地體彩數(shù)據(jù)一直正常復(fù)制到災(zāi)備中心,每天產(chǎn)生的復(fù)制數(shù)據(jù)隊(duì)列為15G左右,,每天各分中心數(shù)據(jù)庫(kù)產(chǎn)生的log增量總和為60G左右,。即使在業(yè)務(wù)繁忙時(shí)段,在各分中心與災(zāi)備中心之間帶寬占用也不超過(guò)300kps,,遠(yuǎn)遠(yuǎn)低于實(shí)際的兩條2M帶寬,,源端CPU使用率在0.1%以下,備用端CPU使用率在3%以下,,數(shù)據(jù)延時(shí)在3秒以內(nèi),,大大便利了體彩中心實(shí)時(shí)監(jiān)測(cè)各地彩票銷(xiāo)售信息。
體彩中心災(zāi)備系統(tǒng)平均資源占用表:
log增量總和
源端CPU占用率
目標(biāo)端CPU占用率
網(wǎng)絡(luò)帶寬占用
延遲
60G/
0.1%
3%
300k/s
<=3s
 
4       體彩中心Oracle GoldenGate應(yīng)用的特點(diǎn)
4.1 N+1災(zāi)備模式
體彩中心共30個(gè)省市的生產(chǎn)數(shù)據(jù)庫(kù)分布在全國(guó)四個(gè)不同的城市,,使用Oracle GoldenGate軟件可以將所有省市數(shù)據(jù)庫(kù)集中備份到一套備份系統(tǒng),,從而實(shí)現(xiàn)了N+1的備份模式,以較低的成本實(shí)現(xiàn)了容災(zāi),。Oracle GoldenGate N+1模式區(qū)別于其它技術(shù)的特點(diǎn)在于其能夠?qū)崿F(xiàn)多個(gè)數(shù)據(jù)庫(kù)數(shù)據(jù)向一個(gè)數(shù)據(jù)庫(kù)的邏輯集中,,從而使得體彩中心在一個(gè)庫(kù)中對(duì)全國(guó)所有省市彩票銷(xiāo)售數(shù)據(jù)的進(jìn)行查詢和統(tǒng)計(jì),為今后體彩建立數(shù)據(jù)倉(cāng)庫(kù)和開(kāi)展BI等業(yè)務(wù)創(chuàng)造了條件,。
4.2 遠(yuǎn)距離低帶寬實(shí)時(shí)復(fù)制
體彩中心的四個(gè)分中心中,,成都和廣州距離北京備份中心距離均為2000公里。在如此遠(yuǎn)的距離上實(shí)現(xiàn)容災(zāi),,租用通訊鏈路的費(fèi)用是一筆大的投入,,而采用Oracle GoldenGate的實(shí)時(shí)復(fù)制方案只需要不到2M帶寬,大幅降低了體彩中心在網(wǎng)絡(luò)上的投資,。在遠(yuǎn)距離低帶寬前提下,,Oracle GoldenGate數(shù)據(jù)復(fù)制的延遲同樣可以保持在3秒以內(nèi),,最快甚至不超過(guò)1秒,有效保證了體育彩票銷(xiāo)售數(shù)據(jù)的安全,。
4.3 異構(gòu)平臺(tái)支持
體彩中心在分中心和備份中心分別使用了IBM和HP主機(jī),,通過(guò)Oracle GoldenGate的跨平臺(tái)特性實(shí)現(xiàn)異構(gòu)的數(shù)據(jù)復(fù)制。Oracle GoldenGate這種跨平臺(tái)復(fù)制的特性為未來(lái)系統(tǒng)的擴(kuò)展提供了便利,,使體彩中心在軟硬件選擇上更加靈活,。


案例四美國(guó)銀行N+1容災(zāi)
1.     美國(guó)銀行介紹
美國(guó)銀行為全球首要的金融服務(wù)機(jī)構(gòu)之一,致力為客戶提供前所未有,,優(yōu)質(zhì)完善的銀行服務(wù),。美國(guó)銀行服務(wù)遍及美國(guó)21個(gè)州、哥倫比亞特區(qū)及全球190個(gè)國(guó)家,,為多達(dá)3000萬(wàn)個(gè)人客戶及200萬(wàn)商業(yè)客戶提供最全面的個(gè)人及商業(yè)銀行服務(wù),。
所有業(yè)務(wù)依托于其構(gòu)架的全球最大的金融服務(wù)網(wǎng)絡(luò),包括其美國(guó)本土內(nèi)將近4400個(gè)分支機(jī)構(gòu)和大約14000臺(tái)ATM機(jī),。并且為將近300萬(wàn)用戶提供通過(guò)INTERNET方式的實(shí)時(shí)在線訪問(wèn)模式,。
作為世界金融服務(wù)行業(yè)領(lǐng)導(dǎo)企業(yè)之一,美國(guó)銀行的業(yè)務(wù)系統(tǒng)包括了14000臺(tái)左右的ATM機(jī),,它們每年近似處理大約30億個(gè)事務(wù),,一天之中的每一秒鐘近似處理300多個(gè)事務(wù)。系統(tǒng)所采用的硬件平臺(tái)是HP NonStop,。隨著如此大量的事務(wù)數(shù)處理的進(jìn)行,,從K系列到S系列的初始化遷移要求在系統(tǒng)持續(xù)運(yùn)行、不停機(jī)的情況下進(jìn)行,。
在應(yīng)用了Oracle GoldenGate軟件后,,美國(guó)銀行成功的完成系統(tǒng)主機(jī)平臺(tái)升級(jí)的初始化數(shù)據(jù)遷移,。項(xiàng)目在20022月完成,成功的系統(tǒng)遷移后,,美國(guó)銀行的應(yīng)用系統(tǒng)包括了3臺(tái)HP NonStop S系列主機(jī),、2臺(tái)HP NonStop K系列主機(jī)。
面對(duì)著IT行業(yè)技術(shù)的日益更新,,IT環(huán)境的日益復(fù)雜和日趨重要,。美國(guó)銀行在面對(duì)如此龐大的金融服務(wù)網(wǎng)絡(luò)時(shí)面對(duì)的幾個(gè)主要問(wèn)題是:
美國(guó)銀行的系統(tǒng)需要為客戶提供24小時(shí)×7的不間斷服務(wù),任何形式的服務(wù)停止都會(huì)產(chǎn)生不可挽回的損失,。需要建立一個(gè)完善的災(zāi)備系統(tǒng),。
美國(guó)銀行希望分布在美國(guó)各地的服務(wù)器均衡的處理業(yè)務(wù)請(qǐng)求,但由于地理位置的不同,各地所處理的業(yè)務(wù)數(shù)量也相差懸殊,。需要建立一個(gè)能夠雙向復(fù)制數(shù)據(jù)的負(fù)載均衡的服務(wù)系統(tǒng),。
帶著這些期望目標(biāo),美國(guó)銀行最終選擇了Oracle GoldenGate軟件平臺(tái)做作為它的解決方案,。
3.     Oracle GoldenGate雙向復(fù)制容災(zāi)解決方案在美國(guó)銀行的應(yīng)用
美國(guó)銀行在美國(guó)的全國(guó)范圍內(nèi),,按地區(qū)劃分了四個(gè)生產(chǎn)中心,分別為東北中心,,西北中心,,東南中心,西南中心,。在美國(guó)中部堪薩司州設(shè)立容災(zāi)備份中心,。通過(guò)Oracle GoldenGate數(shù)據(jù)復(fù)制平臺(tái),實(shí)時(shí)將生產(chǎn)中心的數(shù)據(jù)復(fù)制到備份中心,,一旦生產(chǎn)中心處于計(jì)劃停機(jī)或非計(jì)劃停機(jī)狀態(tài),熱備中心將接管生產(chǎn)中心的服務(wù),,保障業(yè)務(wù)的持續(xù)進(jìn)行,。通過(guò)Oracle GoldenGate的應(yīng)用。美國(guó)銀行順利地完成了各生產(chǎn)中心的系統(tǒng)升級(jí)和割接而沒(méi)有影響到業(yè)務(wù)服務(wù),。
系統(tǒng)拓?fù)浣Y(jié)構(gòu)圖如下

 

美國(guó)銀行災(zāi)備系統(tǒng)框圖
 
美國(guó)銀行在東北和西北的用戶數(shù)量有明顯的不平均,,承擔(dān)的服務(wù)量也明顯不同。為了讓東北和西北的負(fù)載均衡起來(lái),,同時(shí)相互作為容災(zāi)中心,。美國(guó)銀行在東北和西北生產(chǎn)中心采用了Oracle GoldenGate的數(shù)據(jù)雙向復(fù)制功能。這樣客戶可以同時(shí)在東北或西北生產(chǎn)中心本地進(jìn)行交易,。交易結(jié)果實(shí)時(shí)復(fù)制到另一生產(chǎn)中心,。這樣用戶交易少的西北生產(chǎn)中心就負(fù)載了一部分東北生產(chǎn)中心的用戶交易。為避免兩端同時(shí)對(duì)同一帳戶進(jìn)行操作引起的數(shù)據(jù)沖突,,Oracle GoldenGate采用了復(fù)制交易前后差值的方法,,來(lái)避免數(shù)據(jù)沖突。
4.     Oracle GoldenGate數(shù)據(jù)雙向復(fù)制的優(yōu)勢(shì)
在通過(guò)Oracle GoldenGate軟件將生產(chǎn)中心數(shù)據(jù)進(jìn)行遷移而達(dá)到與熱備中心同步后,,成功的實(shí)施了數(shù)據(jù)遷移和系統(tǒng)升級(jí)后,,Oracle GoldenGate為美國(guó)銀行的容災(zāi)系統(tǒng)打下了堅(jiān)實(shí)的基礎(chǔ)??梢愿鶕?jù)實(shí)際業(yè)務(wù)需要和容災(zāi)中心建設(shè)的需求,,將數(shù)據(jù)復(fù)制到任何想要復(fù)制的站點(diǎn),從而建立靈活的容災(zāi)系統(tǒng),。
在美國(guó)銀行的實(shí)際應(yīng)用中,采用了bin-directional(雙向)的數(shù)據(jù)復(fù)制,,這也反映了Oracle GoldenGate軟件ACTIVE to ACTIVE的數(shù)據(jù)復(fù)制特性,,這表明了其軟件極強(qiáng)的適應(yīng)性,。實(shí)現(xiàn)了硬件級(jí)容災(zāi)方案和系統(tǒng)級(jí)容災(zāi)方案所不能解決的問(wèn)題,。所以說(shuō),Oracle GoldenGate軟件構(gòu)成了美國(guó)銀行容災(zāi)解決方案的核心部分,。
5.     用戶對(duì)Oracle GoldenGate產(chǎn)品的評(píng)價(jià)
美國(guó)銀行副總裁兼技術(shù)總監(jiān)Michele Schwappach對(duì)Oracle GoldenGate產(chǎn)品有如下評(píng)價(jià):“我們?cè)诩?xì)致評(píng)估了目前業(yè)界幾乎所有的同類(lèi)產(chǎn)品后,,最終選擇了Oracle GoldenGate產(chǎn)品。從2002年應(yīng)用至今,,Oracle GoldenGate產(chǎn)品一直提供穩(wěn)定的服務(wù),。我們相信Oracle GoldenGate產(chǎn)品的特性將為美國(guó)銀行在未來(lái)時(shí)期內(nèi)的長(zhǎng)期業(yè)務(wù)發(fā)展提供保證”?!斑@些顯著的特性包括:
面對(duì)日趨復(fù)雜的計(jì)算機(jī)環(huán)境的極好的適應(yīng)性,,使其能夠在目前流行的各種數(shù)據(jù)平臺(tái)間傳輸數(shù)據(jù)。
利用Oracle GoldenGate軟件的數(shù)據(jù)復(fù)制功能,,產(chǎn)生類(lèi)似于生產(chǎn)系統(tǒng)的模擬環(huán)境,可直接用于應(yīng)用程序的測(cè)試和開(kāi)發(fā),。
利用Oracle GoldenGate軟件的數(shù)據(jù)雙向復(fù)制功能,使分散在不同地區(qū)的生產(chǎn)系統(tǒng)提供負(fù)載均衡的服務(wù),。
利用Oracle GoldenGate軟件的數(shù)據(jù)復(fù)制功能,,提供了生產(chǎn)系統(tǒng)到熱備系統(tǒng)的數(shù)據(jù)實(shí)時(shí)同步,保證美國(guó)銀行的業(yè)務(wù)持續(xù)性和災(zāi)難備份服務(wù),。

    本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間,,所有內(nèi)容均由用戶發(fā)布,,不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式,、誘導(dǎo)購(gòu)買(mǎi)等信息,,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,,請(qǐng)點(diǎn)擊一鍵舉報(bào),。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評(píng)論

    發(fā)表

    請(qǐng)遵守用戶 評(píng)論公約

    類(lèi)似文章 更多