ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Nguyễn Thị Thu Hằng XÂY DỰNG KHO DỮ LIỆU CHO HỆ THỐNG TỔNG HỢP THÔNG TIN KINH TẾ - XÃ HỘI Ngành: Công

Bản ghi

1 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Nguyễn Thị Thu Hằng XÂY DỰNG KHO DỮ LIỆU CHO HỆ THỐNG TỔNG HỢP THÔNG TIN KINH TẾ - XÃ HỘI Ngành: Công nghệ thông tin Chuyên ngành: Hệ thống thông tin Mã số: LUẬN VĂN THẠC SĨ NGƯỜI HƯỚNG DẪN KHOA HỌC: TS. Nguyễn Tuệ Hà Nội 2009

2 MỤC LỤC LỜI CẢM ƠN... ERROR! BOOKMARK NOT DEFINED. LỜI CAM ĐOAN... ERROR! BOOKMARK NOT DEFINED. MỤC LỤC... 2 BẢNG CÁC KÝ HIỆU VÀ TỪ VIẾT TẮT... 4 DANH MỤC HÌNH VẼ VÀ BẢNG BIỂU... 5 MỞ ĐẦU... 7 CHƢƠNG 1 LÝ THUYẾT XÂY DỰNG KHO DỮ LIỆU Các khái niệm cơ bản về kho dữ liệu Kho dữ liệu data warehouse Các loại dữ liệu trong Data Warehouse Thiết kế kho dữ liệu Các giai đoạn thiết kế kho dữ liệu Mô hình dữ liệu CHƢƠNG 2 MÔ TẢ, ĐÁNH GIÁ, PHÂN TÍCH QUY TRÌNH NGHIỆP VỤ CỦA HỆ THỐNG TỔNG HỢP KINH TẾ - XÃ HỘI Quy trình xác định, tạo lập, lƣu trữ, cung cấp thông tin tổng hợp KTXH Quy trình xác định, tạo lập và lƣu trữ thông tin tổng hợp KTXH tại các đơn vị trực thuộc Bộ XD Quy trình cung cấp và tổ chức khai thác thông tin tổng hợp KTXH tại các đơn vị trực thuộc Bộ XD Quy trình cung cấp và tổ chức khai thác thông tin tổng hợp KTXH Xác định nội dung và các hình thức cung cấp, khai thác thông tin Cung cấp thông tin tới các địa chỉ cần thiết qua đƣờng truyền mạng Cung cấp thông tin tổng hợp KTXH phục vụ công tác điều hành quản lý Qui trình thực hiện chế độ thông tin báo cáo Quy trình nghiệp vụ tổng quát Quy trình làm báo cáo tại tại Bộ Xây dựng Mô tả thông tin dữ liệu Mô hình dữ liệu... 23

3 2.4.2 Hệ thống chỉ tiêu tổng hợp chung của Bộ Xây Dựng Hệ thống chỉ tiêu tổng hợp của các đơn vị... Error! Bookmark not defined. CHƢƠNG 3 - XÂY DỰNG KHO DỮ LIỆU THỬ NGHIỆM... ERROR! BOOKMARK NOT DEFINED. 3.1 Giới thiệu công cụ OLAP trong SQL Server Error! Bookmark not defined Giới thiệu OLAP... Error! Bookmark not defined Giới thiệu dịch vụ OLAP của Microsoft SQL Server. Error! Bookmark not defined Các mô hình lƣu trữ... Error! Bookmark not defined Kiến trúc khối (cube) của OLAP... Error! Bookmark not defined Mô hình kiến trúc của dịch vụ OLAP... Error! Bookmark not defined. 3.2 Thiết kế cơ sở dữ liệu... Error! Bookmark not defined Dữ liệu nguồn... Error! Bookmark not defined Thiết kế các chiều lƣu trữ dữ liệu... Error! Bookmark not defined. 3.3 Cài đặt kho dữ liệu thử nghiệm... Error! Bookmark not defined Khởi tạo và cài đặt Project... Error! Bookmark not defined Khai thác kho dữ liệu... Error! Bookmark not defined. KẾT LUẬN... ERROR! BOOKMARK NOT DEFINED. TÀI LIỆU THAM KHẢO... 35

4 BẢNG CÁC KÝ HIỆU VÀ TỪ VIẾT TẮT Từ viết tắt Từ tiếng anh Từ hoặc cụm từ BMSL CNTT Biểu mẫu số liệu Công nghệ thông tin CSDL Database Cơ sở dữ liệu DM Data Mart Kho dữ liệu cục bộ DW Data Warehouse Kho dữ liệu EDM Enterprise Data Model Mô hình dữ liệu mức xí nghiệp HTTT TT THDL KTXH Hệ thống thông tin Trung tâm tổng hợp dữ liệu Kinh tế - Xã hội LAN Local Area Network Mạng cục bộ OLAP On-Line Analytical Processing Xử lý phân tích trực tuyến SA Subject Area Vùng chủ đề VP XD Văn phòng Xây dựng

5 Danh mục hình vẽ DANH MỤC HÌNH VẼ VÀ BẢNG BIỂU Hình 1.1 Mô phỏng sơ đồ hình sao của một CDSL Hình 1.2 Mô phỏng sơ đồ tuyết rơi (mở rộng của sơ đồ hình sao) Hình 1.3 Mô phỏng các chiều trong kinh doanh Hình 2.1 Quy trình xác định, tạo lập, lƣu trữ thông tin cấp sở Hình 2.2 Quy trình thu thập số liệu tại cấp Bộ Hình 2.3 Mô hình tạo báo cáo ở văn phòng Bộ XD Hình 2.4 Mô hình tổ chức dữ liệu của Hệ thống tại cấp Bộ Hình 3.1 Mối quan hệ của nhiều loại công nghệ trong Analysis Services (dịch vụ phân tích) của SQL Server Hình 3.2 Kiến trúc dịch vụ OLAP Hình 3.3 Mô hình Multidimensional OLAP Hình 3.4 Mô hình Relation OLAP Hình 3.5 Mô hình Hybird OLAP Hình 3.6 Mô hình kiến trúc của dịch vụ OLAP Hình 3.7 Kiến trúc thành phần Server Hình 3.8 Kiến trúc thành phần Client Hình 3.9 Mô hình Data Mart của hệ thống TH KT-XH Hình 3.10 Khung nhìn dữ liệu của Data Mart hệ thống Hình 3.11 Cấu trúc khối (cube) TH_KTXH.cube Hình 3.12 Kết quả triển khai project TH_KTXH trong Analysis Service Hình 3.13 Báo cáo về tình hình thực hiện quản lý quy hoạch phát triển vật liệu xây dựng trong phạm vi cả nƣớc của Vụ Vật liệu xây dựng từ năm 2000 đến Hình 3.14 Báo cáo quản lý quy hoạch phát triển vật liệu xây dựng trong phạm vi cả nƣớc của Vụ Vật liệu xây dựng từ năm 2000 đến 2008 sử dụng dịch vụ Reporting Services Hình 3.15 Báo cáo sản lƣợng Xi măng các loại từ năm 2000 đến 2008 sử dụng dịch vụ Reporting Services Hình 3.16 Báo cáo sản lƣợng sản xuất Cát xây dựng của doang nghiệp quốc doanh từ năm 2000 đến 2008, so sánh số liệu thực và số liệu ƣớc Danh mục bảng biểu Bảng 2.1. Thống kê các mẫu báo cáo và tình trạng cung cấp thông tin về hệ thống chỉ tiêu tổng hợp Bảng 2.2. Hệ thống chỉ tiêu tổng hợp dùng chung tại Bộ XD... 32

6

7 MỞ ĐẦU Thế kỷ 21 là thời đại của nền kinh tế trí thức. Mọi hoạt động của chúng ta muốn đạt hiệu quả cao, giành đƣợc thắng lợi trong thế cạnh tranh gay gắt thì nhất thiết phải có những phƣơng pháp để có đƣợc những thông tin, tri thức cần thiết một cách nhanh và chính xác. Việc áp dụng công nghệ thông tin vào thực tiễn sản xuất nghiệp vụ đã mang lại những hiệu quả và lợi ích to lớn. Công nghệ ngày càng đƣợc phát triển, hoàn thiện hơn để đáp ứng những yêu cầu ngày càng cao của thực tế nghiên cứu, quản lý sản xuất và nghiệp vụ. Sự mở rộng qui mô áp dụng từ những ứng dụng đơn lẻ đến các hệ thống thông tin cỡ lớn đã dẫn đến những thành công vƣợt bậc trong nghiệp vụ. Các hệ thống thông tin từ chỗ chỉ giải quyết những xử lý công việc hàng ngày nay đã tiến tới đáp ứng đƣợc những yêu cầu ở mức độ cao hơn. Các nhà quản lý điều hành không những biết đƣợc công việc đang diễn ra nhƣ thế nào mà còn biết cái gì sẽ xảy ra sau đó, có nghĩa là thông tin mang tính phân tích và hệ thống thông tin có khả năng hỗ trợ quyết định. Hiện nay, phƣơng pháp xây dựng kho dữ liệu đã phát triển cả về lý thuyết cũng nhƣ thực tế. Lý thuyết xây dựng kho dữ liệu đã đƣợc hình thành rõ nét, bên cạnh đó các nhà cung cấp phần mềm cũng đã đƣa ra các công cụ để xây dựng, lƣu trữ, duy trì và phát triển kho dữ liệu. Một kho dữ liệu có thể giúp đỡ các nhà quản lý, các doanh nghiệp có khả năng quản lý dữ liệu, khai thác thông tin để đƣa ra những quyết định nhanh chóng và phù hợp Quá trình tìm hiểu thực tế việc tin học hóa quán lý hành chính nhà nƣớc cho thấy việc tổng hợp và quản lý các thông tin về kinh tế - xã hội hàng ngày, để cung cấp thông tin cho quá trình phân tích, hoạch định chiến lƣợc và hỗ trợ ra quyết định là một nhu cầu bức thiết của những ngƣời quản lý, là thách thức, bài toán thực tế đang đƣợc tìm hƣớng giải quyết. Đề tài này dựa trên những lý thuyết, phƣơng pháp luận, công cụ xây dựng kho dữ liệu, từ đó triển khai xây dựng một kho dữ liệu thực tế, nhằm hƣớng tới giải quyết yêu cầu của bài toán nói trên. Luận văn gồm 3 chƣơng: Chương 1: Lý thuyết xây dựng kho dữ liệu. Chƣơng này trình bày những khái niệm cô đọng nhất về Data warehouse và các bƣớc thiết kế kho dữ liệu cho Hệ thống Chương 2. Mô tả, đánh giá, phân tích quy trình nghiệp vụ của Hệ thống Tổng hợp thông tin kinh tế - xã hội phục vụ điều hành cho Bộ Xây Dựng Chương 3. Xây dựng kho dữ liệu thử nghiệm. Chƣơng này trình bày việc xây dựng kho dữ liệu thử nghiệm dựa trên SQL Server 2005 Giới thiệu bài toán Xây dựng kho dữ liệu cho Hệ thống tổng hợp thông tin kinh tế - xã hội Tổng hợp Kinh tế - Xã hội (KTXH) là một hệ thống thông tin đƣợc xây dựng nhằm góp phần tin học hóa quản lý hành chính nhà nƣớc. Thông tin tổng hợp KTXH đƣợc hiểu là thông tin phản ánh các diễn biến về KTXH đã đƣợc tổng hợp từ các hiện tƣợng KTXH phát sinh ở các đơn vị kinh tế cơ sở để phục vụ công tác chỉ đạo điều hành trong hệ thống các cơ quan hành chính nhà nƣớc. Đơn vị kinh tế cơ sở gồm: Cơ quan nhà nƣớc, đơn vị sự nghiệp, đơn vị thuộc lực lƣợng vũ trang nhân dân, tổ chức chính trị, tổ chức chính trị - xã hội, tổ chức chính trị xã hội - nghề nghiệp, tổ chức xã hội, tổ chức xã hội - nghề nghiệp, doanh nghiệp và các đơn vị trực thuộc doanh nghiệp thuộc mọi thành phần kinh tế, hợp tác xã, tổ hợp tác, hộ kinh doanh cá thể, hộ

8 gia đình, cá nhân, các tổ chức khác của Việt Nam ở trong nƣớc, ở nƣớc ngoài và tổ chức, cá nhân nƣớc ngoài hoạt động trên lãnh thổ Việt Nam. Quá trình tìm hiểu thực tế cho thấy mỗi Ủy ban nhân dân tỉnh hoặc các bộ, ngành đều có nhu cầu nắm bắt, tổng hợp và quản lý các thông tin về kinh tế - xã hội hàng ngày, để cung cấp thông tin cho quá trình phân tích, hoạch định chiến lƣợc và hỗ trợ ra quyết định. Hệ thống Tổng hợp thông tin kinh tế xã hội đã đƣợc tìm hiểu, khảo sát và triển khải thử tại nhiều địa phƣơng nhƣ Thanh Hóa, Hà Nam, Lạng Sơn các bộ ngành nhƣ bộ Xây dựng Từ khảo sát thực tế đã chỉ ra những bất cấp trong việc thu thập và lƣu trữ thông tin kinh tế - xã hội hàng ngày của các UBND, các bộ các ngành. Việc thu thập thông tin thủ công, thông tin đƣợc lƣu trong các file tài liệu rời rạc hoặc những CSDL riêng biệt, gây khó khăn cho việc tổng hợp số liệu, thống kê số liệu, dẫn đến việc phân tích thông tin, hỗ trợ các quyết định chiến lƣợc của các cấp lãnh đạo chƣa thực sự nhanh chóng và hiệu quả. Để giải quyết những bất cập và đáp ứng nhu cầu thực tế, đã có nhiều đề án cụ thể đƣợc đƣa ra xem xét, một trong số các đề án giải quyết những hạn chế nêu trên là xây dựng kho dữ liệu. Khối lƣợng công việc rất lớn, có phạm vi rộng và thời gian thực hiện khéo dài. Do vậy, bài toán trong luận án này sẽ tìm hiểu, đi sâu và xây dựng kho dữ liệu cho HTTT tổng hợp KTXH phục vụ điều hành của Bộ Xây Dựng. HTTT tổng hợp KTXH phục vụ điều hành quản lý tại Bộ XD có nhiệm vụ xác định, tạo lập, lƣu trữ, xử lý và quản lý các thông tin tổng hợp liên quan đến tất cả các lĩnh vực hoạt động KTXH nhƣ kinh tế tổng hợp, kinh tế ngành, tổ chức cán bộ,... của Bộ XD, từ đó hình thành các kho dữ liệu về các số liệu chỉ tiêu tổng hợp KTXH và các thông tin báo cáo, nhằm: Cung cấp thông tin tổng hợp phục vụ chỉ đạo điều hành của lãnh đạo, các hoạt động chuyên môn, nghiệp vụ của các bộ phận và các chuyên viên tại văn phòng Bộ XD, tại các cục, vụ, viện, và các đơn vị trực thuộc Bộ XD (kể cả các sở XD thuộc các tỉnh/ thành phố trong cả nƣớc). Phục vụ việc thực hiện chế độ thông tin báo cáo từ các đơn vị lên văn phòng Bộ XD và từ Bộ lên Chính phủ. Mục tiêu Việc xây dựng kho dữ liệu cho HTTT tổng hợp KTXH phải đảm bảo đƣợc các yêu cầu cơ bản: Xác định đầy đủ nội dung thông tin tổng hợp KTXH Chuẩn hoá hệ thống chỉ tiêu, hệ thống mẫu biểu số liệu (BMSL), thống nhất các loại số liệu, các thông tin danh mục dùng chung; Có khả năng trích lọc, chuyển đổi, kết xuất, tích hợp dữ liệu từ các CSDL chuyên ngành của các đơn vị (nếu có) vào Kho dữ liệu thông tin tổng hợp KTXH. Lƣu trữ, quản lý toàn bộ các số liệu chỉ tiêu, dữ liệu báo cáo của các đơn vị cấp cục, vụ, viện và của Bộ, hình thành các kho dữ liệu về số liệu chỉ tiêu, về các thông tin báo cáo, đƣợc phân loại một cách có hệ thống và thống

9 nhất. Các kho dữ liệu sẽ đƣợc tổ chức theo mô hình thống nhất để có thể tích hợp chúng với nhau một cách thuận tiện và dễ dàng. Trên cơ sở các kho dữ liệu về thông tin tổng hợp KTXH, tổ chức các hình thức khai thác thông tin dƣới dạng thông tin kết xuất theo khuôn dạng định sẵn và các dạng thông tin kết xuất động theo yêu cầu, cung cấp các công cụ thống kê, phân tích, dự báo liên quan đến các lĩnh vực KTXH để hỗ trợ ra quyết định, xuất bản thông tin lên Phạm vi thực hiện Bài toàn xây dựng kho dữ liệu cho hệ thống thông tin tổng hợp kinh tế - xã hội sẽ đƣợc cụ thể hóa bằng việc xây dựng kho dữ liệu thử nghiệm cho hệ thống thông tin tổng hợp KT XH phục vụ điều hành của Bộ Xây dựng. Bài toán sẽ đi tìm hiểu và phân tích các quy trình xác định, tạo lập, lƣu trữ và khai thác thông tin trong hệ thống tổng hợp KTXH, tìm hiểu các loại, kiểu dữ liệu đƣợc lƣu trữ để từ đó xây dựng cơ sở dữ liệu cho kho dữ liệu Công cụ sử dụng trong việc xây dựng kho dữ liệu đƣợc sử dụng trong bài toán là hệ quản trị cơ sở dữ liệu Microsoft SQL Server 2005

10 CHƢƠNG 1 LÝ THUYẾT XÂY DỰNG KHO DỮ LIỆU 1.1 Các khái niệm cơ bản về kho dữ liệu Kho dữ liệu data warehouse Định nghĩa kho dữ liệu data warehouse Kho dữ liệu (Data Warehouse - DW) là tuyển tập các cơ sở dữ liệu tích hợp, hƣớng chủ đề, đƣợc thiết kế để hỗ trợ cho chức năng trợ giúp quyết định, mà mỗi đơn vị dữ liệu đều liên quan tới một khoảng thời gian cụ thể. Công nghệ Kho dữ liệu (Data Warehouse Technology) là tập các phƣơng pháp, kỹ thuật và các công cụ có thể kết hợp, hỗ trợ nhau để cung cấp thông tin cho ngƣời sử dụng trên cơ sở tích hợp từ nhiều nguồn dữ liệu, nhiều môi trƣờng khác nhau (Theo John Ladley) Công nghệ DW ra đời nhằm đáp ứng mọi yêu cầu về thông tin của ngƣời sử dụng, hỗ trợ để các nhân viên của "tổ chức" thực hiện tốt, hiệu quả công việc của minh, nhƣ có những quyết định hợp lý, nhanh và bán đƣợc nhiều hàng hơn, năng sản cao hơn, thu đƣợc lợi nhuận cao hơn, v.v... Giúp cho tổ chức, xác định, quản lý và điều hành các dự án, các nghiệp vụ một cách hiệu quả và chính xác, ngoài ra DW tích hợp dữ liệu và các siêu dữ liệu từ nhiều nguồn khác nhau Kho dữ liệu thƣờng rất lớn tới hàng trăm GB hay thậm chí hàng Terabyte. Kho dữ liệu đƣợc xây dựng để tiện lợi cho việc truy cập theo nhiều nguồn, nhiều kiểu dữ liệu khác nhau sao cho có thể kết hợp đƣợc cả những ứng dụng của các công nghệ hiện đại và kế thừa đƣợc từ những hệ thống đã có sẵn từ trƣớc. [1] Đặc tính của kho dữ liệu Dữ liệu trong DW có những đặc tính cơ bản sau: Hƣớng chủ đề (Object Oriented) Dữ liệu đƣợc tập hợp, phân lớp, lƣu trữ và xử lý theo từng chủ đề, để dễ dàng xác định đƣợc những thông tin cần thiết trong từng hoạt động. Các dữ liệu của mỗi chủ đề chính trong tổ chức đƣợc liên kết với các khóa đại diện và đƣa vào cùng một vị trí. Tích hợp (Integrated) Một tổ chức có rất nhiều dữ liệu từ nhiều hệ thống khác nhau. Dữ liệu tập hợp trong kho dữ liệu đƣợc thu thập từ nhiều nguồn và trộn ghép với nhau tạo thành một thể thống nhất.việc hợp nhất các dữ liệu này trở thành một tập hợp dữ liệu có nghĩa cho việc phân tích là rất khó khăn. Dữ liệu tích hợp phải đảm bảo tính nhất quán, đôi khi chấp nhận sự dƣ thừa dữ liệu để tăng hiệu quả của các truy vấn. Tính ổn định, không biến động (non- volatility)

11 Dữ liệu trong DW là dữ liệu chỉ đọc và chỉ có thể đƣợc kiểm tra, không đƣợc sửa đổi bởi ngƣời sử dụng đầu cuối. Nó chỉ cho phép thực hiện hai thao tác cơ bản: nạp dữ liệu vào kho và truy cập vào vào các vùng trong DW. Tính không biến động thể hiện ở chỗ: Dữ liệu đƣợc lƣu trữ lâu dài trong kho dữ liệu. Mặc dù có thêm dữ liệu mới nhập vào nhƣng dữ liệu cũ trong kho vẫn không bị xoá, điều đó cho phép cung cấp thông tin về một khoảng thời gian dài, cung cấp đủ số liệu cần thiết cho các mô hình nghiệp vụ phân tích, dự báo, từ đó có đƣợc những quyết định hợp lý, phù hợp với các qui luật tiến hoá của tự nhiên. Tính thời gian cụ thể Một kho dữ liệu bao hàm một khối lƣợng lớn dữ liệu lịch sử. Dữ liệu đƣợc lƣu trữ thành một loạt các bản sao, mỗi bản sao phản ánh những giá trị của dữ liệu tại một thời điểm nhất định, thể hiện một khung nhìn của một vùng chủ đề trong một giai đoạn. Do vậy, DW cho phép khôi phục lại dữ liệu lịch sử và so sánh một cách chính xác các giai đoạn khác nhau. Yếu tố thời gian đóng vai trò nhƣ một phần của khóa để đảm bảo tính đơn nhất của mỗi bản ghi và cung cấp đặc trƣng về thời gian cho dữ liệu Dữ liệu trong kho dữ liệu tác nghiệp cần phải chính xác ở chính thời điểm truy cập, còn ở DW chỉ cần có hiệu lực trong khoảng thời gian nào đó, trong khoảng 5 đến 10 năm hoặc lâu hơn. Dữ liệu của CSDL tác nghiệp thƣờng sau một khoảng thời gian nhất định thì sẽ trở thành dữ liệu lịch sử và chúng sẽ đƣợc chuyển thành kho dữ liệu. Đó chính là những dữ liệu hợp lý về những chủ điểm cần lƣu trữ Các yêu cầu chức năng của kho dữ liệu Khả năng cân bằng (scalable) : Kho dữ liệu có khả năng lƣu trữ và quản lý một số lƣợng khổng lồ các giao dịch và dữ liệu tổng hợp. Kho dữ liệu có thể lớn lên theo thời gian, có thêm dữ liệu mới hoặc giữ lại dữ liệu lịch sử cho một thời gian dài mà không bị quá tải, vẫn đảm bảo tính ổn định hoạt động Khả năng quản trị (manageable): Kho dữ liệu có khả năng quản trị việc tạo quyết định Khả năng sẵn sàng (avaiable) : Kho dữ liệu luôn sẵn sàng bất kỳ khi nào cần Khả năng mở rộng (extensible): Thực hiện 1 cách dễ dàng khi thêm các loại dữ liệu mới, dữ liệu kết hợp và dữ liệu tổng hợp và kho dữ liệu

12 Khả năng mềm dẻo (Flexible): hỗ trợ nhiều cách truy nhập dữ liệu chi tiết, dữ liệu tổng hợp theo phân tích nhiều chiều Khả năng tích hợp (Integrated): kho dữ liệu phải có khả năng tích hợp đầy đủ với các hệ thống sẵn có, môi trƣờng tác nghiệp. Do vậy, có thể tải dữ liệu từ nhiều nguồn Khả năng truy cập sử dụng đƣợc (Accessible): Kho dữ liệu phải có khả năng truy cập sử dụng đƣợc, từ các công cụ mềm dẻo tới phạm vi rộng rãi ngƣời sử dụng Khả năng tin cậy (Reliable): dữ liệu tải từ nhiều nguồn khác nhau phải đƣợc hợp nhất, chuấn hóa bảo đảm tính toàn vẹn dữ liệu và hợp lệ tại một thời điểm bất kỳ Kho dữ liệu cục bộ - Datamart Kho dữ liệu cục bộ (Datamart DM) là CSDL có những đặc điểm giống với kho dữ liệu nhƣng với quy mô nhỏ hơn và lƣu trữ dữ liệu về một lĩnh vực, một chuyên ngành. Datamart là kho dữ liệu hƣớng chủ đề. Các Datamart có thể đƣợc hình thành từ một tập con dữ liệu của kho dữ liệu hoặc cũng có thể đƣợc xây dựng độc lập và sau khi xây dựng xong, các datamart có thể đƣợc kết nối tích hợp lại với nhau tạo thành kho dữ liệu. Vì vậy có thể xây dựng kho dữ liệu bắt đầu bằng việc xây dựng các Datamart hay ngƣợc lại xây dựng kho dữ liệu trƣớc sau đó tạo ra các Datamart. Datamart (DM) là một kho dữ liệu thứ cấp các dữ liệu tích hợp của DW. Datamart đƣợc hƣớng tới một phần của dữ liệu thƣờng đƣợc gọi là một vùng chủ đề (Subject Area - SA) đƣợc tạo ra và giành cho một nhóm ngƣời sử dụng. Dữ liệu trong Datamart cho thông tin về một chủ đề xác định, không phải về toàn bộ các hoạt động nghiệp vụ đang diễn ra trong một tổ chức. Thể hiện thƣờng xuyên nhất của datamart là một kho dữ liệu riêng rẽ theo phƣơng diện vật lí, thƣờng đƣợc lƣu trữ trên một server riêng, trong một mạng cục bộ phục vụ cho một nhóm ngƣời nhất định. Đôi khi datamart một cách đơn giản với công nghệ OLAP tạo ra các quan hệ theo dạng hình sao đặc biệt hoặc những siêu khối (hypercube) dữ liệu cho việc phân tích của một nhóm ngƣời có cùng mối quan tâm trên một phạm vi dữ liệu. [2] Có thể chia ra làm 2 loại: Datamart độc lập và Datamart phụ thuộc Các loại dữ liệu trong Data Warehouse Dữ liệu nghiệp vụ Dữ liệu nghiệp vụ (Business data BD) là dữ liệu dùng để vận hành và quản lý một doanh nghiệp hoặc một tổ chức. Nó phản ánh những hoạt động của doanh nghiệp và những đối tƣợng trong thế giới thực nhƣ là khách hàng, địa điểm, sản phẩm v.v.. Nó đƣợc tạo ra và sử dụng bởi các hệ thống xử lý giao tác cũng nhƣ các hệ thống hỗ trợ quyết định Siêu dữ liệu (Metadata) Metadata là dữ liệu về dữ liệu đƣợc sử dụng trong DW (hay gọi là siêu dữ liệu) trả lời các câu hỏi ai, cái gì, khi nào, tại sao, nhƣ thế nào về dữ liệu. Nó đƣợc sử dụng cho việc xây dựng, duy trì, quản lí và sử dụng DW. Metadata là một trong những phƣơng diện quan trọng nhất của DW

13 Siêu dữ liệu nghiệp vụ (Business Metadata): Chứa đựng những thông tin khiến cho ngƣời sử dụng dễ dàng hiểu đƣợc khung cảnh của thông tin đƣợc lƣu trữ trong DW Siêu dữ liệu kĩ thuật (Technical Metadata): Chứa đựng những thông tin về dữ liệu trong DW của những ngƣời thiết kế và quản trị khi tiến hành công việc phát triển và quản lí Siêu dữ liệu tác nghiệp ( Operational Metadata) Metadata hỗ trợ trực tiếp cho ngƣời sử dụng giúp họ có thể hiểu đƣợc nội dung và tìm thấy đƣợc dữ liệu cần thiết. Trong thực tế khả năng kết hợp của công cụ trích lọc dữ liệu và Metadata còn rất kém. Do đó cần phải tạo ra những giao diện dùng Metadata cho ngƣời sử dụng. Metadata định nghĩa nội dung và vị trí của dữ liệu trong DW, mối quan hệ giữa cơ sở dữ liệu tác nghiệp với DW và các khung nhìn dữ liệu của DW có thể truy nhập đƣợc bởi công cụ của ngƣời sử dụng đầu cuối. Ngƣời sử dụng đầu cuối cần đến Metadata khi cần đến những định nghĩa dữ liệu hay các vùng chủ thể. Tất cả các thành phần của DW đều cần và có thể lấy dữ liệu từ Metadata. Metadata đƣợc lƣu trữ ở khu vực trung tâm. Metadata có thể xuất hiện theo nhiều khuôn dạng và có thể trong suốt. 1.2 Thiết kế kho dữ liệu Các giai đoạn thiết kế kho dữ liệu Có nhiều phƣơng pháp thiết kế kho dữ liệu, mặc dù khác nhau nhƣng nhìn chung các phƣơng pháp đều chứa một số công việc cơ bản cho việc thiết kế kho dữ liệu gồm các giai đoạn sau: [2] Xác định mô hình nghiệp vụ (Defining the business model) Phân tích các định hƣớng chiến lƣợc để rút ra các quá trình nghiệp vụ đƣợc thực hiện trong kho dữ liệu. Các yêu cầu nghiệp vụ phải đƣợc phân tích, xác định và tài liệu hóa đơn vị đo và chiều nghiệp vụ (businesss measures và business demensions) cho mỗi quá trình nghiệp vụ Xác định mô hình logic (Defining the logical model) Dùng kỹ thuật đồ họa để thể thiện các định nghĩa, đặc điểm và mối quan hệ của dữ liệu trong nghiệp vụ, hoặc khái niệm chuyên môn, nhằm mục đích mô tả hệ thống cho ngƣời sử dụng cuối. Thông thƣờng phƣơng pháp này dùng chuẩn 3NF Xác định mô hình Demensional (Defining the demensional model) Mô hình nghiệp vụ đƣợc chuyển thành mô hình Demensional, lƣợc đồ các bảng và thuộc tính của bảng đƣợc định nghĩ, liên kết giữa các bảng đƣợc tạo dựng và nguồn của kho dữ liệu đƣợc xác định.

14 Xác định mô hình vật lý (Defining the physical model) Mô hình Demensional đƣợc chuyển thành mô hình vật lý, bao gồm các khai báo về định nghĩa kiểu dữ liệu của các thuộc tính, khích thƣớc dự tính, chiến lƣợc tạo chỉ mục (index) và lƣu trữ dữ liệu Mô hình dữ liệu Mô hình DW đƣợc phát sinh từ một mô hình dữ liệu tổng thể (mô hình dữ liệu mức xí nghiệp) (Enterprise Data Model - EDM). Một EDM là một bức tranh tổng thể mà các mô hình khác có thể hoạt động trên đó. Nó đƣợc tổ chức thành các vùng theo chủ điểm, Subject Area - SA là phần chính của sự chia nhỏ các công việc cần đƣợc quan tâm đáp ứng nhu cầu ngƣời sử dụng. Nếu một tổ chức không có sẵn EDM thích hợp, EDM cũ đƣợc phép dùng tiếp và bổ sung các SA mới. Để bắt đầu việc thiết lập một mô hình, cần quan tâm tới khung nhìn tại vị trí hiện tại và trong tƣơng lai sắp tới. Vị trí hiện tại có nghĩa là mô tả và hiểu những dữ liệu đƣợc chứa trong những hệ thống kế thừa (nguồn kế thừa). Nếu các hệ thống nguồn đang ở trong trạng thái không ổn định thì chọn để tiếp tục những công việc cần thiết. Mô hình dữ liệu DW có tính chủ đề, phụ thuộc vào công việc nghiệp vụ và các vấn đề nảy sinh. Mô hình dữ liệu của DW có thể thiết lập theo: Sơ đồ hình sao (Star Schema) Sơ đồ tuyết rơi (Snowflake) Mô hình đa chiều (Multiple Dimension) Sơ đồ hình sao (Star Schema) Sơ đồ hình sao đƣợc đƣa ra lần đầu tiên bởi Dr. Ralph Kimball nhƣ là một lựa chọn thiết kế cơ sở dữ liệu cho DW. Nó đƣợc gọi là sơ đồ hình sao bởi vì các sự kiện nằm ở trung tâm của mô hình và đƣợc bao quanh bởi các phạm vi liên quan, rất giống với các điểm của một ngôi sao. Sơ đồ hình sao cho phép một hệ thống đối tƣợng có thể kết nối với nhiều đối tƣợng khác. Mô hình này thể hiện cách nhìn của ngƣời sử dụng về nhiều vấn đề trong tác nghiệp. Trong sơ đồ hình sao, dữ liệu đƣợc xác định và phân loại theo 2 kiểu: Các sự kiện đƣợc tổ chức thành bảng Fact Bảng Fact chứa các thông tin cơ sở ở mức giao tác ở trong nghiệp vụ mà các ứng dụng cần thiết. Ví dụ, khi phân tích dữ liệu kinh doanh thì cần những dữ liệu về những mặt hàng đã bán đƣợc trong các giao dịch bán hàng về số lƣợng, chủng loại, giá thành, v.v.. Những dữ liệu này đều đƣợc lƣu ở bảng Fact của kho dữ liệu. Tuy nhiên, trƣớc khi các dữ liệu này đƣợc đƣa vào kho dữ liệu thì cần phải chọn một trƣờng dữ liệu nào đó thƣờng sử dụng trong các chiều phân tích để tham chiếu (xem nhƣ khoá ngoại trong các quan hệ liên kết) và sau đó đƣa vào bảng các chiều. Các sự kiện là các đại lƣợng số của công việc. Các bảng Fact thƣờng rất lớn, chứa hàng triệu dòng mà phần lớn là số.

15 Phạm vi, hay các chiều của dữ liệu, đƣợc tổ chức thành các bảng Dimension. Bảng Dimension, ngƣợc lại, thƣờng là tƣơng đối nhỏ so với các bảng Fact, chứa các thông tin mô tả. Đó là các bộ lọc hoặc các ràng buộc của những sự kiện ở bảng Fact. Bảng Dimension chứa các dữ liệu cần thiết cho việc thực hiện các giao tác nghiệp vụ theo một chiều, hay phạm vi nào đó. Ví dụ, trong ứng dụng phân tích kinh doanh, bảng Dimension bao gồm: thời gian, vùng bán hàng, loại sản phẩm, v.v. Period perkey month year quarter Market mktkey city state region SalesMonthly perkey SalesWeekly prodkey perkey mktkey SalesDaily prodkey dollars perkey mktkey weight prodkey dollars mktkey weight values units Product prodkey product color model size Hình 1.1 Mô phỏng sơ đồ hình sao của một CDSL Ưu điểm của sơ đồ hình sao Hỗ trợ rất đa dạng các câu truy vấn và xử lý khá hiệu quả những câu truy vấn đó. Phù hợp với thói quen của ngƣời sử dụng nhận và sử dụng dữ liệu, nên dữ liệu đƣợc hiểu trực quan hơn. Sơ đồ này rất trực quan, dễ sử dụng, thể hiện khung nhìn đa chiều của dữ liệu dùng ngữ nghĩa của cơ sở dữ liệu quan hệ. Khóa của bảng sự kiện đƣợc tạo bởi những khóa của các bảng chứa thông tin theo từng phạm vi (Dimension Table). Tất cả các khóa đều đƣợc xác định với cùng một chuẩn đặt tên.

16 Sơ đồ tuyết rơi (Snowflake) Sơ đồ hình tuyết rơi là một sự mở rộng của sơ đồ hình sao tại đó mỗi cánh sao không phải là một bảng Dimension mà là nhiều bảng. Trong dạng sơ đồ này, mỗi bảng theo chiều của sơ đồ hình sao đƣợc chuẩn hóa hơn. Sơ đồ hình tuyết rơi cải thiện năng suất truy vấn, tối thiểu không gian đĩa cần thiết để lƣu trữ dữ liệu và cải thiện năng suất nhờ việc chỉ phải kết hợp những bảng có kích thƣớc nhỏ hơn thay vì phải kết hợp những bảng có kích thƣớc lớn lại không chuẩn hóa. Nó cũng làm tăng tính linh hoạt của các ứng dụng bởi sự chuẩn hóa và ít mang bản chất theo chiều hơn. Nó làm tăng số lƣợng các bảng và làm tăng tính phúc tạp của một vài truy vấn cần có sự tham chiếu tới nhiều bảng. Period perkey month year quarter SalesMonthly perkey Product SalesWeekly prodkey perkey mktkey SalesDaily prodkey prodkey dollars product Markets perkey mktkey weight color prodkey dollars model mktkey mktkey weight size city values countrykey state units regionkey Hình 1.2 Mô phỏng sơ đồ tuyết rơi (mở rộng của sơ đồ hình sao) Mô hình đa chiều (Multiple Dimension) Các nhà quản lý kinh doanh có khuynh hƣớng suy nghĩ theo nhiều chiều (multidimensionally). Ví dụ nhƣ họ có khuynh hƣớng mô tả những gì mà công ty làm nhƣ: Chúng tôi kinh doanh các sản phẩm trong nhiều thị trường khác nhau, và chúng tôi đánh giá hiệu quả thực hiện của chúng tôi qua thời gian. Những ngƣời thiết kế kho dữ liệu thƣờng lắng nghe cẩn thận những từ đó và họ thêm vào những nhấn mạnh đặc biệt của họ nhƣ: Chúng tôi kinh doanh các sản phẩm trong nhiều thị trường khác nhau, và chúng tôi đánh giá hiệu quả thực hiện của chúng tôi qua thời gian. Saûn phaåm Một cách trực quan, việc kinh doanh nhƣ một khối (cube) dữ liệu, với các nhãn trên mỗi cạnh của khối. Các điểm bên trong khối Thôøi là các giangiao điểm của các cạnh. Với mô tả kinh doanh ở trên, các cạnh của khối là Sản phẩm, Thị trƣờng, và Thời gian. Hầu hết mọi ngƣời đều có thể nhanh chóng hiểu và tƣởng tƣợng rằng các điểm bên trong khối là các độ đo hiệu quả kinh doanh mà đƣợc kết hợp giữa các Thò giá tröôøng trị Sản phẩm, Thị trƣờng và Thời gian. Hình Mô phỏng các chiều trong kinh doanh

17 Một khối dữ liệu (datacube) thì không nhất thiết phải có cấu trúc 3 chiều (3-D), nhƣng về cơ bản là có thể có N chiều (N-D). Những cạnh của khối đƣợc gọi là các chiều (dimensions), mà đó là các mặt hoặc các thực thể ứng với những khía cạnh mà tổ chức muốn ghi nhận. Mỗi chiều có thể kết hợp với một bảng chiều (dimension table) nhằm mô tả cho chiều đó. Ví dụ, một bảng chiều của Sản phẩm có thể chứa những thuộc tính nhƣ Ma_sanpham, Mo_ta, Ten_sanpham, Loai_SP, mà có thể đƣợc chỉ ra bởi nhà quản trị hoặc các nhà phân tích dữ liệu. Với những chiều không đƣợc phân loại, nhƣ là Thời gian, hệ thống kho dữ liệu sẽ có thể tự động phát sinh tƣơng ứng với bảng chiều (dimension table) dựa trên loại dữ liệu. Cần nói thêm rằng, chiều Thời gian trên thực tế có ý nghĩa đặc biệt đối với việc hỗ trợ quyết định cho các khuynh hƣớng phân tích. Thƣờng thì nó đƣợc mong muốn có một vài tri thức gắn liền với lịch và những mặt khác của chiều thời gian. Hơn nữa, một khối dữ liệu trong kho dữ liệu phần lớn đƣợc xây dựng để đo hiệu quả của công ty. Do đó một mô hình dữ liệu đa chiều đặc thù đƣợc tổ chức xung quanh một chủ đề mà đƣợc thể hiện bởi một bảng sự kiện (fact table) của nhiều độ đo số học (là các đối tƣợng của phân tích). Ví dụ, một bảng sự kiện có thể chứa số mặt hàng bán, thu nhập, tồn kho, ngân sách, Mỗi độ đo số học phụ thuộc vào một tập các chiều cung cấp ngữ cảnh cho độ đo đó. Vì thế, các chiều kết hợp với nhau đƣợc xem nhƣ xác định duy nhất độ đo, là một giá trị trong không gian đa chiều. Ví dụ nhƣ một kết hợp của Sản phẩm, Thời gian, Thị trƣờng vào 1 thời điểm là một độ đo duy nhất so với các kết hợp khác. Các chiều đƣợc phân cấp theo loại. Ví dụ nhƣ chiều Thời gian có thể đƣợc mô tả bởi các thuộc tính nhƣ Năm, Quý, Tháng và Ngày. Mặt khác, các thuộc tính của một chiều có thể đƣợc tổ chức vào một lƣới mà chỉ ra một phần trật tự của chiều. Vì thế, cũng với chiều Thời gian có thể đƣợc tổ chức thành Năm, Quý, Tháng, Tuần và Ngày. Với sự sắp xếp này, chiều Thời gian không còn phân cấp vì có những tuần trong năm có thể thuộc về nhiều tháng khác nhau. Vì vậy, nếu mỗi chiều chứa nhiều mức trừu tƣợng, dữ liệu có thể đƣợc xem từ nhiều khung nhìn linh động khác nhau. Một số thao tác điển hình của khối dữ liệu nhƣ roll-up (tăng mức độ trừu tƣợng), drill-down (giảm mức độ trừu tƣợng hoặc tăng mức chi tiết), slice and dice (chọn và chiếu), và pivot (định hƣớng lại khung nhìn đa chiều của dữ liệu), cho phép tƣơng tác truy vấn và phân tích dữ liệu rất tiện lợi. Những thao tác đó đƣợc biết nhƣ Xử lý phân tích trực tuyến (On-Line Analytical Processing OLAP). Những nhà ra quyết định thƣờng có những câu hỏi có dạng nhƣ tính toán và xếp hạng tổng số lƣợng hàng hoá bán đƣợc theo mỗi quốc gia (hoặc theo mỗi năm). Họ cũng muốn so sánh hai độ đo số học nhƣ số lƣợng hàng bán và ngân sách đƣợc tổng hợp bởi cùng các chiều. Nhƣ vậy, một đặc tính để phân biệt của mô hình dữ liệu đa chiều là nó nhấn mạnh sự tổng hợp của các độ đo bởi một hoặc nhiều chiều, mà đó là một trong những thao tác chính yếu để tăng tốc độ xử lý truy vấn. [1]

18 CHƢƠNG 2 MÔ TẢ, ĐÁNH GIÁ, PHÂN TÍCH QUY TRÌNH NGHIỆP VỤ CỦA HỆ THỐNG TỔNG HỢP KINH TẾ - XÃ HỘI 2.1 Quy trình xác định, tạo lập, lưu trữ, cung cấp thông tin tổng hợp KTXH Các quy trình đƣợc thiết lập ở trong phần này sử dụng tài liệu [3]. Quy trình này đƣợc thực hiện tại tất cả các cơ quan cấp sở XD, các đơn vị trực thuộc và tại văn phòng Bộ XD. Đây là quy trình đóng vai trò trọng tâm, có nhiệm vụ tạo nguồn dữ liệu cho kho dữ liệu. Quy trình đƣợc chia thành hai quy trình con: Quy trình xác định, tạo lập và lƣu trữ thông tin tổng hợp KTXH tại các đơn vị trực thuộc Bộ XD Quy trình cung cấp và tổ chức khai thác thông tin tổng hợp KTXH tại các đơn vị trực thuộc Bộ XD Thông tin tổng hợp KTXH tại quy trình này đƣợc hiểu chủ yếu là số liệu cho các chỉ tiêu tổng hợp KTXH. Nguồn cung cấp thông tin cho hệ thống này sẽ là các sở XD của các tỉnh/ thành phố và các đơn vị trực thuộc Bộ XD nhƣ các Tổng Công ty (công ty), các đơn vị sự nghiệp nhƣ Viện, Trƣờng, Trung tâm, Các đơn vị trực thuộc lƣu trữ các số liệu phục vụ điều hành tại các đơn vị và gửi dữ liệu về TT THDL tại Bộ XD Quy trình xác định, tạo lập và lƣu trữ thông tin tổng hợp KTXH tại các đơn vị trực thuộc Bộ XD Dữ liệu tại cấp sở đƣợc lấy trực tiếp từ CSDL tổng hợp của cấp huyện và các sở ngành khác thông qua các kết nối trực tiếp. Nguồn dữ liệu cung cấp cho sở còn do sự thu thập của các phòng chuyên ngành thông qua các cuộc khảo sát và các thông tin từ các doanh nghiệp, Các chuyên viên của các phòng chuyên ngành có trách nhiệm thu thập số liệu từ các nguồn đã mô tả để tạo ra các số liệu tổng hợp của sở quản lý. Cũng nhƣ cấp huyện, có hai loại số liệu tổng hợp: chƣa đƣợc xác nhận và đã đƣợc xác nhận. Cho đến khi có số liệu đƣợc xác nhận cần phải coi số liệu tổng hợp chƣa đƣợc xác nhận có giá trị phục vụ điều hành của đơn vị và gửi lên trung tâm tổng hợp dữ liệu tỉnh, VP Bộ XD.

19 Thu thập, tổng hợp thàn liệu chỉ tiêu dƣới Hồ sơ hành chính Số liệu tổng hợp tổng hợp Số liệu tổng hợp đó duyệt Các nguồn dữ liệu khác Cập nhật số liệu tổng hợp đó duyệt CSDL chuyên ngành Hệ thống kết xuất số liệu tổng hợp Số liệu tổng hợp Kho số liệu TH của sở CSDL TH cấp huyện/thị Hình 2.1. Quy trình xác định, tạo lập, lưu trữ thông tin cấp sở Quy trình cung cấp và tổ chức khai thác thông tin tổng hợp KTXH tại các đơn vị trực thuộc Bộ XD Số liệu tổng hợp tại Trung Tâm tổng hợp dữ liệu Bộ XD đƣợc lấy trực tiếp từ các kho dữ liệu tổng hợp tại các sở XD, các Tổng Công ty (công ty), các đơn vị Viện, Trƣờng, Trung tâm trực thuộc Bộ thông qua truyền số liệu (hoặc bộ hoá dữ liệu). Đồng thời số liệu còn đƣợc thu thập từ chính các phòng chuyên môn trong VP Bộ XD và các nguồn khác. Trƣớc đây, số liệu không đƣợc thu thập trực tiếp mà phải thông qua các báo cáo. Để thực hiện lƣu trữ số liệu tổng hợp phục vụ điều hành, Bộ XD cần phải ban hành các quy định và sửa đổi mẫu thu thập số liệu. Nguồn cung cấp số liệu tổng hợp đáng kể cho kho dữ liệu tổng hợp của Bộ XD xuất phát từ các sở XD tại các tỉnh/thành phố. Hiện tại, các sở XD của các tỉnh/thành phố đã triển khai HTTT TH KTXH cấp tỉnh và hệ thống chỉ tiêu tổng hợp của sở XD đã đƣợc chuẩn hóa theo hệ thống chỉ tiêu tổng hợp chung của tỉnh. Cấp sở XD và các Tổng Công ty trực thuộc Bộ XD Trung Tâm Tích Hợp Dữ Liệu Bộ XD CSDL TH cấp sở, đơn vị trực thuộc CSDL TH cấp Bộ Các Viện, Trƣờng, T. tâm Các phòng, ban trực thuộc VP Bộ CSDL TH cấp Viện, Trường, Trung tâm

20 Hình 2.2. Quy trình thu thập số liệu tại cấp Bộ 2.2 Quy trình cung cấp và tổ chức khai thác thông tin tổng hợp KTXH Cung cấp và tổ chức khai thác thông tin theo yêu cầu của các đối tƣợng ngƣời sử dụng là chức năng chứng tỏ tính hiệu quả cũng nhƣ mức độ thực hiện thành công các mục tiêu và yêu cầu của kho dữ liệu. Quy trình (chức năng) này đƣợc thực hiện tại tất cả các cơ quan cấp sở, đơn vị trực thuộc và tại VP Bộ XD nhằm thoả mãn các nhu cầu về thông tin tổng hợp KTXH phục vụ điều hành quản lý của lãnh đạo cơ quan, đội ngũ cán bộ, chuyên viên của cơ quan và của lãnh đạo Bộ XD. Đối với mỗi loại đối tƣợng ngƣời sử dụng và tại từng cơ quan, cách thức, hình thức khai thác và nội dung thông tin khai thác cần đƣợc phân tích cụ thể Xác định nội dung và các hình thức cung cấp, khai thác thông tin Hình 2.1, 2.2 ở mục trên đã phân loại các đối tƣợng sử dụng và các địa chỉ cần cung cấp thông tin. Đối với mỗi loại đối tƣợng ngƣời sử dụng, cần xác định: Nội dung thông tin cần khai thác Các hình thức, các khuôn dạng tĩnh, khuôn dạng động khai thác thông tin Định kỳ khai thác thông tin Cung cấp thông tin tới các địa chỉ cần thiết qua đƣờng truyền mạng Việc cung cấp thông tin tổng hợp KTXH tới các địa chỉ cần thiết qua đƣờng truyền mạng là một yêu cầu để xây dựng nên số liệu của kho dữ liệu tổng hợp KTXH. Các cơ quan cấp sở cung cấp thông tin tổng hợp KTXH cho kho dữ liệu của Bộ XD Các cấp huyện cung cấp thông tin tổng hợp KTXH cho kho dữ liệu của sở XD Các đơn vị trực thuộc Bộ XD (Cục, Vụ Viện, trƣờng, ) cung cấp thông tin tổng hợp KTXH cho kho dữ liệu của Bộ XD Cung cấp thông tin tổng hợp KTXH phục vụ công tác điều hành quản lý Các Kho dữ liệu thông tin tổng hợp KTXH của các cơ quan và của Bộ nhằm cung cấp thông tin tổng hợp KTXH phục vụ nhu cầu khai thác chung: Cung cấp thông tin tổng hợp KTXH phục vụ điều hành quản lý cho các đối tƣợng ngƣời sử dụng có liên quan trong hệ thống cơ quan quản lý hành chính.

21 Phục vụ việc tra cứu, xem, in, sao chép các báo cáo của các cơ quan cấp sở gửi Bộ XD và báo cáo của Bộ XD gửi Chính phủ. Phục vụ việc tra cứu, tìm kiếm số liệu chỉ tiêu có trong các kho dữ liệu tổng hợp KTXH theo tiêu thức, từ đó có thể in, sao chép các số liệu đó. Tạo lập các biểu đồ, đồ thị phục vụ cho các phân tích KTXH Cung cấp các công cụ thống kê, phân tích, dự báo liên quan đến các lĩnh vực KTXH để hỗ trợ ra quyết định Nội dung thông tin tổng hợp KTXH về cơ bản có thể bao gồm: Báo cáo định kỳ Phân theo thời gian và kỳ báo cáo Phân theo cơ quan báo cáo Phân theo lĩnh vực/ngành Báo cáo nhanh, báo cáo đột xuất, không định kỳ Số liệu chỉ tiêu tổng hợp KTXH Tra cứu số liệu chỉ tiêu theo tiêu thức Lập các bảng số liệu động (chọn dòng chỉ tiêu và cột số liệu) Lập các biểu đồ, đồ thị 2.3 Qui trình thực hiện chế độ thông tin báo cáo Quy trình nghiệp vụ tổng quát Nhìn chung, quy trình lập báo cáo gồm các bƣớc sau đây: Bƣớc 1: Xác định nội dung, yêu cầu báo cáo. Bƣớc này do cơ quan yêu cầu báo cáo chuẩn bị. Xuất phát từ nhu cầu thông tin phục vụ công tác quản lý, điều hành, các cơ quan chủ thể quản lý quy định chế độ báo cáo đối với các đối tƣợng thuộc phạm vi quản lý, trong đó quy định rõ nội dung, yêu cầu và thời gian báo cáo. Bƣớc 2: Chuẩn bị dự thảo báo cáo: Bƣớc này do cơ quan báo cáo thực hiện. Sau khi nhận đƣợc yêu cầu báo cáo, đơn vị lập báo cáo (thƣờng giao cho bộ phận tổng hợp) tổ chức thu thập thông tin, nắm bắt tình hình (có thể đã đƣợc tích lũy trong quá trình công tác), tính toán, phân tích tổng hợp thông tin và xây dựng dự thảo báo cáo. Bƣớc 3: Lấy ý kiến tham gia. Sau khi hoàn thành bản dự thảo báo cáo, bộ phận xây dựng báo cáo gửi lấy ý kiến tham gia của lãnh đạo cơ quan, các bộ phận chuyên môn khác và hoàn chỉnh lại bản dự thảo. Bƣớc 4: Trình ngƣời có thẩm quyền ký ban hành. Trong bƣớc này, báo cáo có thể phải bổ sung sửa đổi theo yêu cầu của ngƣời ký báo cáo.

22 Bƣớc 5: Phát hành và lƣu báo cáo. Sau khi đƣợc ngƣời có thẩm quyền ký, gửi cho Cơ quan yêu cầu báo cáo và các cơ quan, đơn vị liên quan; thời đƣợc lƣu trữ tại cơ quan lập báo cáo Quy trình làm báo cáo tại tại Bộ Xây dựng Bộ phận Tổng hợp của Văn phòng tạo báo cáo dự thảo dựa trên dữ liệu tổng hợp từ các đơn vị khác gửi đến Trung tâm tích hợp dữ liệu, tuỳ theo hình thức báo cáo mà quy trình phê duyệt báo cáo sẽ khác nhau. Đối với báo cáo tuần, đột xuất thì sau khi phòng tổng hợp làm báo cáo dự thảo sẽ gửi lên cho Chánh văn phòng phê duyệt, ký và ban hành báo cáo. Đối với báo cáo tháng sau khi phòng Tổng hợp dự thảo báo cáo và lấy ý kiến của Chánh văn phòng, trên cơ sở ý kiến đó phòng Tổng hợp sẽ chỉnh sửa lại báo cáo và trình lên cho Lãnh đạo Bộ phụ trách tổng hợp xem xét lại lần cuối, ký báo cáo và ban hành. Đối với báo cáo quý, 6 tháng, 9 tháng, năm quy trình cũng gần giống nhƣ báo cáo tháng, báo cáo sau khi đƣợc phòng tổng hợp dự thảo sẽ đƣợc trình lên ban lãnh đạo Bộ để lấy ý kiến, dựa vào đó phòng Tổng hợp sẽ chỉnh sửa báo cáo trƣớc khi trình lên Lãnh đạo Bộ XD phê duyệt lần cuối và ký báo cáo cho ban hành. Đối với báo cáo chuyên đề, sau khi các đơn vị gửi các báo cáo chuyên đề về VP Bộ, phòng Tổng hợp sẽ dự thảo báo cáo và gửi lên cho Chánh văn phòng phụ trách tổng hợp để lấy ý kiến; sau khi hoàn chỉnh báo cáo, phòng Tổng hợp sẽ trình lên ban Lãnh đạo Bộ XD phê duyệt, ký báo cáo và cho ban hành. Các cán bộ lãnh đạo khác của Bộ (4) Xin góp ý Lãnh đạo Bộ XD (3) Ký Ban hành Góp ý Góp ý Góp ý Kho mẫu biểu Báo cáo dùng chung

23 Tiếp nhận, xử lý, chuyển đổi, tổng hợp, cậpnhật dữ liệu Công cụ khai thác, lập BC Chánh, phó chánh VP Bộ XD (2) Phòng Tổng hợp thuộc VP Bộ XD (1) Xin ý kiến 2.4 Mô tả thông tin dữ liệu Mô hình dữ liệu Hình 2.3. Mô hình tạo báo cáo ở văn phòng Bộ XD Bài toán xây dựng kho dữ liệu tổng hợp cấp Bộ tại trung tâm tổng hợp dữ liệu nhằm mục tiêu lƣu trữ các thƣ viện danh mục chỉ tiêu, danh mục địa bàn, danh mục đơn vị, toàn Bộ, các số liệu tổng hợp của cấp sở, số liệu tổng hợp của các đơn vị trực thuộc, số liệu tổng hợp do các phòng ban trong VP Bộ XD, các Cục, Vụ, Viện và các đơn vị trực thuộc Bộ thu thập và cung cấp. Kho dữ liệu này lƣu nhiều nguồn dữ liệu tổng hợp gửi từ các sở và các đơn vị trực thuộc. Khi làm các báo cáo tổng hợp, phòng tổng hợp của văn phòng Bộ XD có thể chọn nhiều phƣơng án lựa chọn các chỉ tiêu theo số liệu của các sở XD, các Cục, Vụ, Viện, thời lƣu các chỉ tiêu kế hoạch các kỳ báo cáo của Bộ. Ngoài ra còn lƣu các báo cáo tổng hợp từ các đơn vị gửi tới và các báo cáo do chính Bộ XD tạo ra. NGUỒN DỮ LIỆU MÔ HÌNH TỔ CHỨC CSDL TỔNG HỢP KTXH TẠI VP BỘ XD Các CSDL tổng hợp KTXH từ các cơ quan cấp sở /ĐV trực thuộc Kho dữ liệu tổng hợp KTXH Lưu BC Dữ liệu tổng hợp và BC gửi Chính phủ và các địa chỉ liên quan CSDL tổng hợp KTXH tại Trung tâm THDL Metadata Các nguồn dữ liệu

24 Tiếp nhận, hợp, Công cụ k Metadata Các nguồn dữ liệu Hình 2.4. Mô hình tổ chức dữ liệu của Hệ thống tại cấp Bộ Nhƣ vậy, tổ chức lƣu trữ dữ liệu trong hệ thống TH KTXH phục vụ điều hành Bộ XD vừa phân tán vừa tập trung: Tại mỗi đơn vị đều có một kho dữ liệu phục vụ công tác điều hành của đơn vị, thí dụ các CSDL của các sở XD đã đƣợc xây dựng trong phần mềm dùng chung đã triển khai tại cấp tỉnh (2005). Đồng thời dữ liệu tổng hợp của các đơn vị đƣợc chuyển vào kho dữ liệu dùng chung của Bộ XD tại TT TH DL. Việc đƣa dữ liệu tổng hợp của các đơn vị vào kho dữ liệu dùng chung của Bộ XD giải quyết đƣợc các khó khăn hiện thời: tránh đƣợc tệ nạn cát cứ dữ liệu bằng cách cung cấp dữ liệu trực tiếp từ TT THDL cho các đơn vị cần; dễ dàng tạo ra các phân tích, so sánh các đơn vị với nhau; tạo ra các báo cáo liên ngành hỗ trợ cho công tác điều hành của Bộ XD và các đơn vị, Ngoài ra việc lƣu trữ tập trung tại TT THDL còn có một ƣu điểm là hỗ trợ bảo quản dữ liệu tổng hợp của Hệ thống tốt hơn Hệ thống chỉ tiêu tổng hợp chung của Bộ Xây Dựng Trong tổng hợp thông tin KTXH, hệ thống chỉ tiêu tổng hợp đóng vai trò hết sức quan trọng.chỉ có thông qua các số liệu của các chỉ tiêu tổng hợp mới có thể đƣa ra các quyết định phục vụ cho công tác điều hành ở mọi cấp. Chính vì lẽ đó, cần xây dựng và chuẩn hóa hệ thống các chỉ tiêu tổng hợp chung cho Bộ. Hiện tại, Bộ XD chƣa có hệ thống chỉ tiêu tổng hợp chung cho toàn ngành mà chỉ có các chỉ tiêu tổng hợp phục vụ riêng cho các đơn vị cấp Vụ, Viện và VP Bộ thông qua các báo cáo tổng hợp của các đơn vị cấp sở gửi lên Bộ XD. Do đó Bộ XD chƣa có đƣợc một CSDL lƣu trữ số liệu của các chỉ tiêu tổng hợp để phục vụ cho công tác điều hành tại cấp Bộ Giới thiệu các báo cáo Bộ XD không chuẩn hóa hệ thống chỉ tiêu tổng hợp dùng chung cho các đơn vị trực thuộc Bộ mà chuẩn hóa các báo cáo. Công việc này không cho phép Bộ có đƣợc các kho số liệu tổng hợp dùng chung cho Bộ và các đơn vị trực thuộc. Đến năm 2005 cơ sở dữ liệu Báo cáo của Bộ Xây dựng đã lƣu trữ đƣợc 2100 báo cáo tƣơng đƣơng 2,5 GB. Các chỉ tiêu tổng hợp còn bị lẫn lộn với các thuộc tính quản lý trong các CSDL chuyên ngành nhƣ Quản lý các dự án đầu tƣ, Quản lý các đề tài nghiên cứu khoa học, Kế toán chủ đầu tƣ, Có thể xẩy ra thống kê chồng chéo, ví dụ, sản lƣợng xi măng có chỉ tiêu tổng hợp cho các sở XD thời có chỉ tiêu cho các nhà máy xi măng và nhất định nhà máy xi măng đó phải trên địa bàn nào đó. Có rất nhiều chỉ tiêu tổng hợp xuất hiện trong các báo cáo của các đơn vị khác nhau, tuy nhiên không thể xác định đƣợc tính đúng đắn khi phải so sánh giữa chúng. Bảng các báo cáo đã đƣợc chuẩn hóa dƣới dạng đƣợc phân tích để tiến đến xây dựng một hệ thống các chỉ tiêu TH cho Bộ XD.

25 STT Loại mẫu biểu báo cáo Đơn vị cung cấp số liệu I. Nhóm báo cáo KH-TK và vật liệu xây dựng Tình hình thực hiện đầu tƣ từ nguồn vốn ngân sách nhà nƣớc năm.. Giá trị sản xuất kinh doanh tháng. Và.tháng đầu năm.. Tình hình cung cấp xi măng toàn ngành Một số sản phẩm CN&VLXD chủ yếu Giá trị xuất nhập khẩu. Ƣớc thực hiện tháng. Và tháng đầu năm. Báo cáo tình hình thực hiện Công tác quy hoạch xây dựng đô thị và khu công nghiệp tháng đầu năm.. Báo cáo tình hình thực hiện các dự án cấp thoát nƣớc và vệ sinh môi trƣờng tháng đầu năm.. Hiện trạng, sản xuất sử dụng nƣớc trong tỉnh, thành phố tháng đầu năm.. Báo cáo thực hiện các chỉ tiêu kế hoạch Tình hình cổ phần hóa doanh nghiệp Báo cáo phân loại và cấp quản lý đô thị, kế hoạch vốn trong năm. Các đơn vị trực thuộc và sở XD Các đơn vị thuộc Bộ và các tổng công ty xi măng Các đơn vị thuộc Bộ và các tổng công ty xi măng Các đơn vị thuộc Bộ và các tổng công ty xi măng, các sở XD Các đơn vị thuộc Bộ và các tổng công ty xi măng Sở XD Sở XD Sở XD Sở XD; Vụ Kế hoạch, Thống Kê Sở XD Sở XD 12. Ƣớc thực hiện các chỉ tiêu chủ yếu Sở XD; Vụ Kế hoạch, Thống

26 tháng đầu năm.. Ƣớc thực hiện các chỉ tiêu chủ yếu tháng đầu năm.. áp dụng cho các đơn vị xây lắp & Sản xuất vật liệu xây dựng Dự kiến giá trị sản xuất và doanh thu xây lắp tháng đầu năm (áp dụng cho các đơn vị có thi công các công trình) Ƣớc thực hiện các chỉ tiêu chủ yếu tháng đầu năm.. áp dụng cho các đơn vị Xuất bản, Báo chí Ƣớc thực hiện giá trị sản phẩm vật liệu xây dựng.tháng năm Ƣớc thực hiện vốn đầu tƣ xây dựng cơ bản tháng năm.. Lao động và các khoản thu nhập của ngƣời lao động Báo cáo thực hiện các chỉ tiêu năm. Kê Các đơn vị xây lắp & Sản xuất vật liệu xây dựng Các đơn vị xây lắp Các đơn vị Xuất bản, Báo chí Các đơn vị sản xuất vật liệu xây dựng, sở XD Sở XD, các đơn vị thi công Các tổng công ty Các sở XD II. Kinh tế - Tài chính Bảng cân đối kế toán Các chỉ tiêu ngoài bảng cân đối kế toán Do chƣơng trình Kế toán sinh ra Do chƣơng trình Kế toán sinh ra III. Xây lắp 22. Cấp giấy phép xây dựng Tự xây dựng hệ thống chỉ tiêu 23. Chứng chỉ hành nghệ xây dựng 24. Cấp phép cho nhà thầu nƣớc ngoài IV. Quản lý nhà ở

27 25. Quỹ nhà ở, hình thức sở hữu nhà, cấp quản lý nhà ở, cấp quyền sử dụng, Chính sách đối với ngƣời có công Xây dựng lại 26. Phát triển nhà ở 27. Quản lý nhà công sở, công vụ các cấp Bảng 2.1. Thống kê các mẫu báo cáo và tình trạng cung cấp thông tin về HT chỉ tiêu tổng hợp Hệ thống chỉ tiêu tổng hợp chung Trong luận án sẽ sử dụng các chỉ tiêu tổng hợp trong các báo cáo để xây dựng minh họa một hệ thống các chỉ tiêu tổng hợp cho Bộ XD. Việc sử dụng hệ thống các chỉ tiêu tổng hợp này hay không còn phụ thuộc vào các cơ quan có thẩm quyền của Bộ XD quyết định. Có thể mô tả sơ qua hệ thống chỉ tiêu tổng hợp này nhƣ sau: Mã Hệ thống chỉ tiêu tổng hợp đƣợc chia thành các nhóm theo ngành và mã hóa nhóm ngành Hệ thống này gồm khoảng 300 chỉ tiêu tổng hợp đủ để mô tả dữ liệu của kho dữ liệu TH KTXH. Hệ thống chỉ tiêu đƣợc mã hóa có tính đến việc thêm các ngành mới, nhóm mới thuộc một ngành và thêm các chỉ tiêu cụ thể mới đến cấp n tùy ý. Chỉ tiêu ĐV tính Đơn vị cung cấp Đơn vị khai thác chính CT01 CT01.1. Giá trị SX xây lắp Tổng - Quốc doanh Sở XD, các đơn vị xây lắp trực thuộc Bộ XD Sở XD, Vụ Xây lắp, TT THDL Bộ, Vụ Kế hoạch Thống kê, Vụ Thanh tra XD

28 - Ngoài Quốc doanh - Doanh nghiệp đầu tƣ nƣớc ngoài CT01.2. Giá trị SX VLXD Sở XD, Tổng CT và các đơn vị trực thuộc Bộ Vụ Kế hoạch Thống kê, Vụ Khảo sát thiết kế, Vụ Vật liệu Xây dựng Tổng - Quốc doanh - Ngoài Quốc doanh - Doanh nghiệp đầu tƣ nƣớc ngoài CT01.3. Tổng số nộp ngân sách Sở XD, Tổng CT và các đơn vị trực thuộc Bộ Vụ Kế hoạch Thống kê, Vụ Kinh tế Tài chính, Vụ Khoa học Công nghệ Tổng - Quốc doanh - Ngoài Quốc doanh - Doanh nghiệp đầu tƣ nƣớc ngoài CT01.4. Giá trị Tƣ vấn XD Sở XD, Tổng CT và các đơn vị trực thuộc Bộ Vụ Kế hoạch Thống kê, Vụ Khảo sát, thiết kế

29 xây dựng - Quốc doanh - Ngoài Quốc doanh - Doanh nghiệp đầu tƣ nƣớc ngoài CT01.5. Tổng vốn đầu tƣ XDCB - Vốn ngân sách - Vốn vay tín dụng - Vốn vay nƣớc ngoài Vụ Kế hoạch Thống kê, Vụ Xây lắp, Thanh tra xây dựng CT01.6 Giá trị SX và KD Các tổng Công ty/công ty hoặc các đơn vị trực thuộc Bộ XD Cục XL&CN, Bộ XD, Vụ Kế hoạch Thống kê CT GTSX xây lắp (kể cả KL do bên A cấp vật tƣ) Chia ra: - Giá trị CT nhà ở - Giá trị CT nhà kho, nhà xƣởng -.. CT GTSXCN.VLXD 1CT GT Khảo sát-thiết kế- QHXD CT Giá trị sản xuất và KD khác CT01.7. Tổng doanh thu Sở XD, Tổng CT Vụ hoạch Kế

30 và các đơn vị trực thuộc Bộ Thống kê, Vụ Kinh tế, tài chính CT01.8. Tổng số nộp ngân sách Sở XD, Tổng CT và các đơn vị trực thuộc Bộ Vụ Kế hoạch Thống kê, Vụ Kinh tế, tài chính CT01.9. Lợi nhuận trƣớc thuế Sở XD, Tổng CT và các đơn vị trực thuộc Bộ Vụ Kế hoạch Thống kê, Vụ Kinh tế, tài chính CT Tỷ suất lợi nhuận/doanh thu Tổng CT và các đơn vị trực thuộc Bộ Vụ Kế hoạch Thống kê, Vụ Kinh tế, tài chính CT Tỷ suất lợi nhuận/tổng tài sản Sở XD, Tổng CT và các đơn vị trực thuộc Bộ Vụ Kế hoạch Thống kê, Vụ Kinh tế, tài chính CT Tỷ suất lợi nhuận sau thuế trên nguồn vốn sở hữu Sở XD, Tổng CT và các đơn vị trực thuộc Bộ Vụ Kế hoạch Thống kê, Vụ Kinh tế, tài chính, VP Bộ CT Đầu tƣ xây dựng cơ bản Vụ hoạch Thống VP Bộ Kế kê, CT Tổng số (Bao gồm các

31 nguồn vốn) Chia ra: - Vốn NSNN - Vốn tín dụng - Vốn nƣớc ngoài - Vốn đầu tƣ thƣơng mại - Vốn tự có - Vốn khác CT Đầu tƣ mua sắm TSCĐ dùng cho SX thông qua XDCB CT Đầu tƣ sửa chữa lớn TSCĐ CT Đầu tƣ vốn lƣu động bổ sung CT Vốn đầu tƣ phát triển khác CT Phân chia theo lĩnh vực - Các dự án PT HT KT đô thị - Các dự án phát triển nhà CT Tổng số dự án Dự án Tổng hợp Đầu tƣ (mẫu biểu 5-KH06- THĐT) CT02 Lao động và thu nhập Sở XD, Tổng CT và các đơn vị trực thuộc Bộ Vụ Kế hoạch Thống kê, Vụ Tổ chức cán bộ, Vụ Kinh tế tài chính CT02.1 Lao động bình quân ngành Ngƣời

32 XD kỳ báo cáo - Quốc doanh - Ngoài Quốc doanh - Doanh nghiệp đầu tƣ nƣớc ngoài CT02.2 Lao động không bố trí đƣợc việc làm - Quốc doanh - Ngoài Quốc doanh - Doanh nghiệp đầu tƣ nƣớc ngoài CT02.3 Thu nhập bình quân 1 ngƣời/1 tháng kỳ báo cáo - Quốc doanh - Ngoài Quốc doanh CT02.3. Lao động bình quân (kể cả HĐ) CT02.4. Thu nhập bình quân ngƣời/tháng Ngƣời Ngƣời CT02.5. Số lƣợng cổ phần hóa doanh nghiệp - Số lƣợng doanh nghiệp cổ phần hóa Doan h nghiệ p - Số lƣợng bộ phận DN cổ phần hóa Bộ phận CT02.6. Đào tạo, Ytế, Nghiên cứu khoa học Sở Tổng XD, CT