ＣＨＡＩＤ、ＣＡＲＴ、Ｑｕｅｓｔ和 Ｃ５．０。 建立決策樹的過程，全自動氮吹儀即樹的生長過程是不斷的把數據進行分組的過程，每次分組對應一 個問題，也對應著一個節點。每次分組都要 求所分 得的 組之間 的“差異”最大。各 種決 策樹 １０．１ 數據挖掘及其應用 ３４９  算法之間的主要區別就是對這個“差異”衡量方式的區別。這樣的分組過程也可稱為數據的 “純化”。比如圖１０．１所示的例子，就包含兩個類別———低風險和高風險。如果經過一次分 組后，就 使每個 組中 的數據 都屬 于同 一個類 別，則這 樣高 效的分 組方 法顯然 就是 我們 所追 求的。 當然實際中應用的決策樹可能不會像如 圖１０．１所 示那 樣簡單。 如果利 用歷 史數 據建 立了一個包含幾百個屬性、輸出的類有十幾種的決策樹，這樣的一棵樹對人來說可能太復雜 了，但無 論它有 多復 雜，每一 條從根 節點 到葉子 節點 的路 徑所描 述的 含義仍 然是 可以 理解 的。決策樹的這種易理解性對數據挖掘的使用者來說是一個顯著的優點。然而這種明確性 也可能會給人帶來誤導。比如，決策樹中的每個 決策 節點 都是非 常明 確毫不 含糊 的表 達了 一種數據分組 策 略，但 在 實 際 生 活 中 這 種 明 確 可 能 會 帶 來 一 些 麻 煩，憑 什 么 說 年 收 入 

為 ￥４０００１ 的人就具有較小的信用風險，而年收入為￥４００００的人就具有較大的信用風險呢？ 在數據挖掘中應用決策樹的優點是需要的計 算資 源較少，而 且可 以很容 易地 處理 包含 很多預測變量的情況。在建立決策樹時，為了使得到的決策樹所蘊含的規則具有普遍意義， 必須避免對決策樹的過度訓練，同時還要減少訓練的時間。 決策樹很擅長處理非數值型數據，這與神經網絡只能處理數值型數據比起來，就免去了 很多數據預處理工作。甚至有些決策樹算法是專 門為 處理非 數值 型數 據而設 計，因此 當采 用此種方法建立決策樹同時又要處理數值型數據 時，反而 要做把 數值 型數據 映射 到非 數值 型數據的預處理。 ３． 回歸分析 回歸分析是通過具有已知值的變量來預測 其他 變量的 值。在 最簡單 的情 況下，回 歸采 用的是像線性回歸這樣的標準統計技術，這 種技術 就是 最小 二乘法。 但在大 多數 現實 世界 中的問題是不能用簡單 的線 性 回歸 所能 預測 的。如 商品 的銷 售 量、股票 價格、產 品 合格 率

 等，很難 找到簡 單有 效的方 法來 預測，因 為要描 述這 些事 件的變 化所 需的變 量往 往以 上百 計，且這些變量本身又都是非線性的。為此人們 又發 明了 許多新 的手 段來試 圖解 決這 個問 題，如邏輯回歸、多項數回歸、對數回歸、泊松回歸等。 ４． 遺傳算法 遺傳算法簡稱 ＧＡ（ＧｅｎｅｔｉｃＡｌｇｏｒｉｔｈｍ），在本 質上是一種不依 賴具體問題的直 接搜索方 法。是一種基于進化理論，并采用自然選擇、遺傳交叉（或結合）及遺傳變異等設計方法的優 化技術。 遺傳算法把問題的解表示成“染色體”，在算法 中也 即是 以二進 制編 碼的串。 在執 行遺 傳算法之前，給出一群“染色體”，也即是假設解。然后，把這些假設解置于問題的“環境”中， 并按適者生存的原則，從中選擇出較適應環 境的“染色 體”進行 復制，再 通過交 叉、變異 過程 ３５０ 第十章 數據挖掘與Ａｇｅｎｔ技術  產生更適應環境的新一代“染色體”群。這樣，一代一代地進化，最后就會收斂