Descriptive vs.
Inferential Mô tả và suy luận
• Descriptive ~ Exploratory Data Analysis (EDA):
describes data you have using techniques for
visualizing and summarizing data
– Histograms and Boxplots for understanding
distributions: extremes (min
and max), median & quartiles, skewed &
longtailed distributions
– Scatterplots for bivariate relationships.
– Heatmaps for correlations between variables.
– Pair plots to visualize relationships between
multiple variables at once.
• What can the data tell us?
 uncover underlying structure
 extract important variables
 detect outliers and anomalies
 formulate hypotheses worth testing
 provide a basis for further data collection
through surveys or experiments
Descriptive vs. Inferential
• Descriptive statistics describe the data,
• Inferential statistics help you make predictions
from the data
EDA
• No hypothesis at first
• Generate hypothesis
• Uses graphical methods
(mostly)
Inferential statistics
• Start with hypothesis
• Test the null hypothesis
• Uses statistical models
Descriptive vs. Inferential
• Inferential: e.g., t-test, that enable inferences
about the population beyond our data
 helps in making judgments of an observed
difference between groups.
• Topics include:
 Point estimation
 Confidence intervals for unknown parameters
 Principles of testing of hypotheses
Multivariate analysis (đa chiều)
• The term "multivariate analysis" (MVA) refers to
any statistical technique used to analyze data on
• Mô tả ~ Phân tích dữ liệu thăm dò (EDA): mô
tả dữ liệu bạn đang sử dụng các kỹ thuật để trực
quan hóa và tóm tắt dữ liệu
– Biểu đồ và Boxplots để hiểu phân phối: cực trị
(tối thiểu và tối đa), phân vị trung vị và tứ phân
vị, phân phối lệch và phân phối dài
– Biểu đồ phân tán cho mối quan hệ hai biến.
– Bản đồ nhiệt cho mối tương quan giữa các
biến.
– Ghép các biểu đồ để trực quan hóa mối quan hệ
giữa nhiều biến cùng một lúc.
• Dữ liệu có thể cho chúng ta biết điều gì?
 khám phá cấu trúc cơ bản
 trích xuất các biến quan trọng
 phát hiện các ngoại lệ và sự bất thường
 xây dựng các giả thuyết có giá trị kiểm tra
 cung cấp cơ sở cho việc thu thập dữ liệu sâu
hơn thông qua khảo sát hoặc thử nghiệm
Mô tả và suy luận
• Thống kê mô tả mô tả dữ liệu,
• Thống kê suy luận giúp bạn đưa ra dự đoán từ
dữ liệu
EDA
• Ban đầu không có giả thuyết
• Tạo giả thuyết
• Sử dụng phương pháp đồ họa
(hầu hết)
Thống kê suy luận
• Bắt đầu với giả thuyết
• Kiểm tra giả thuyết không
• Sử dụng mô hình thống kê
Mô tả và suy luận
• Suy luận: ví dụ: t-test, cho phép suy luận về dân
số ngoài dữ liệu của chúng tôi
 Giúp đưa ra phán đoán về sự khác biệt quan
sát được giữa các nhóm.
• Các chủ đề bao gồm:
 Ước lượng điểm
 Khoảng tin cậy cho các tham số chưa biết
 Nguyên tắc kiểm định giả thuyết
Phân tích đa biến (đa chiều)
• Thuật ngữ "phân tích đa biến" (MVA) đề cập
đến bất kỳ kỹ thuật thống kê nào được sử dụng
two or more attributes (variables) that may depend
on each other. Multivariate analysis encompasses
a collection of techniques, which include:
 Multivariate Regression: Extends multiple
regression to allow for multiple dependent
variables.
 Multivariate Analysis of Variance (MANOVA):
An extension of ANOVA that allows for multiple
dependent variables.
 Principal Component Analysis (PCA): A
dimensionality reduction technique.
 Factor Analysis: Aims to identify underlying
relationships between observed variables.
 Cluster Analysis: Groups similar data points
together based on certain criteria.
• Expected outputs: Depending on the specific
MVA technique, the output might be cluster
groupings, factors, components, or multiple
equations.
• Example: Using MANOVA, you might study
how diet and exercise together affect both weight
and blood pressure (two dependent variables).
Cluster Analysis (phân tích gom cụm)
• Cluster Analysis is a statistical technique used to
group similar objects or data points into sets
• Types of Clustering:
 Centroid-based Clustering: K-means
Clustering: Divides a dataset into 'K' number of
centroids, and data points are clustered based on
the proximity to these centroids.
 Hierarchical Clustering: Creates a tree of
clusters. It can be either agglomerative (bottomup,
where each data point starts as its own cluster and
pairs of clusters are merged) or divisive (top-
down, where all data points start in one cluster
which is then split).
 Density-based Clustering: DBSCAN (Density-
Based Spatial Clustering of Applications with
Noise): Clusters are formed based on the density
of data points. It can find arbitrarily shaped
clusters and identify noise/outliers.
 Model-based Clustering: Assumes that the data
để phân tích dữ liệu về hai hoặc nhiều thuộc tính
(biến) có thể phụ thuộc trên nhau. Phân tích đa
biến bao gồm một tập hợp các kỹ thuật, trong đó
bao gồm:
 Hồi quy đa biến: Mở rộng hồi quy bội để cho
phép thực hiện nhiều các biến phụ thuộc.
 Phân tích phương sai đa biến (MANOVA):
Một phần mở rộng của ANOVA cho phép nhiều
biến phụ thuộc.
 Phân tích thành phần chính (PCA): Một kỹ
thuật giảm kích thước.
 Phân tích nhân tố: Nhằm mục đích xác định
mối quan hệ cơ bản giữa quan sát biến.
 Phân tích cụm: Nhóm các điểm dữ liệu tương
tự lại với nhau dựa trên các tiêu chí nhất định.
• Kết quả đầu ra dự kiến: Tùy thuộc vào kỹ thuật
MVA cụ thể, kết quả đầu ra có thể là các nhóm
cụm, các yếu tố, thành phần hoặc nhiều phương
trình.
• Ví dụ: Sử dụng MANOVA, bạn có thể nghiên
cứu cách ăn kiêng và tập thể dục cùng nhau
ảnh hưởng đến cả cân nặng và huyết áp (hai biến
phụ thuộc).
Phân tích cụm (phân cụm cụm)
• Phân tích cụm là một kỹ thuật thống kê được sử
dụng để nhóm các đối tượng hoặc điểm dữ liệu
tương tự vào bộ
• Các kiểu phân cụm:
 Phân cụm dựa trên centroid: Phân cụm K-
mean: Chia tập dữ liệu thành số 'K' trọng tâm và
các điểm dữ liệu được phân cụm dựa trên mức độ
gần với các trọng tâm này.
 Phân cụm theo cấp bậc: Tạo một cây các cụm.
Nó có thể là kết tụ (từ dưới lên, trong đó mỗi
điểm dữ liệu bắt đầu dưới dạng cụm riêng của nó
và các cặp cụm được hợp nhất) hoặc phân chia
(từ trên xuống, trong đó tất cả các điểm dữ liệu
bắt đầu trong một cụm, sau đó được phân chia).
 Phân cụm dựa trên mật độ: DBSCAN (Phân
cụm không gian dựa trên mật độ của các ứng
dụng với Nhiễu): Các cụm được hình thành dựa
trên mật độ của các điểm dữ liệu. Nó có thể tìm
tùy ý các cụm có hình dạng và xác định
nhiễu/các ngoại lệ.
 Phân cụm dựa trên mô hình: Giả sử rằng dữ
is generated by a mixture of underlying
probability distributions, such as Gaussian
mixtures.
 Connectivity-based Clustering: Spectral
Clustering: Uses the spectrum (eigenvalues) of
the similarity matrix of the data to reduce
dimensionality before clustering in fewer
dimensions.
 Grid-based Clustering: Divides the data space
into a finite number of cells that form a gridlike
structure. Clustering is then performed on this grid
structure.
Nonparametric Statistics
• These statistical procedures make no
assumptions about the probability distributions of
the population.
• The model structure is not specified a priori but
is instead determined from data.
• As non-parametric methods make fewer
assumptions, their applicability is much wider
• Procedures described include:
 Sign test
 Mann-Whitney two sample test
 Kruskal-Wallis test for comparing several
samples
• Density Estimation
Bootstrap
• Bootstrap (khởi động nhanh) is a resampling
technique used to estimate statistics on a
population by sampling a dataset with
replacement.
• How Bootstrap Works:
 Resampling with Replacement: Given an
original dataset of size n, the bootstrap method
involves repeatedly and randomly drawing
samples, with replacement, from the dataset. Each
of these samples is also of size n.
 Calculating Statistics: For each resampled
dataset, the statistic of interest (e.g., mean,
median, variance) is computed.
 Distribution of the Statistic: After many
iterations of this process, you'll have a distribution
of your statistic of interest, from which you can
compute things like its standard error, confidence
liệu được tạo ra bởi sự kết hợp của các phân phối
xác suất, chẳng hạn như hỗn hợp Gaussian.
 Phân cụm dựa trên kết nối: Phân cụm phổ: Sử
dụng phổ (giá trị riêng) của ma trận tương tự của
dữ liệu để giảm kích thước trước khi phân cụm
theo ít hơn kích thước.
 Phân cụm dựa trên lưới: Chia không gian dữ
liệu thành một số hữu hạn các ô tạo thành cấu
trúc dạng lưới. Việc phân cụm sau đó được thực
hiện trên cấu trúc lưới này.
Thống kê phi tham số
• Các thủ tục thống kê này không đưa ra giả định
nào về phân bố xác suất của dân số.
• Cấu trúc mô hình không được xác định trước
mà thay vào đó là xác định từ dữ liệu.
• Vì các phương pháp phi tham số đưa ra ít giả
định hơn nên chúng khả năng ứng dụng rộng hơn
nhiều
• Các thủ tục được mô tả bao gồm:
 Kiểm tra dấu hiệu
 Kiểm định hai mẫu Mann-Whitney
 Kiểm định Kruskal-Wallis để so sánh nhiều
mẫu
• Ước tính mật độ
Khởi động
• Bootstrap (khởi động nhanh) là một kỹ thuật lấy
mẫu lại dùng để ước lượng thống kê về dân số
bằng cách lấy mẫu một tập dữ liệu thay thế.
• Bootstrap hoạt động như thế nào:
 Lấy mẫu lại bằng thay thế: Cho một tập dữ
liệu gốc có kích thước n, bootstrap Phương pháp
này liên quan đến việc lấy mẫu lặp đi lặp lại và
ngẫu nhiên, có sự thay thế, từ tập dữ liệu. Mỗi
mẫu này cũng có kích thước n.
 Tính toán số liệu thống kê: Đối với mỗi tập dữ
liệu được lấy mẫu lại, số liệu thống kê quan tâm
(ví dụ: trung bình, trung vị, phương sai) được
tính toán.
 Phân phối số liệu thống kê: Sau nhiều lần lặp
lại quá trình này, bạn sẽ có phân phối thống kê
bạn quan tâm, từ đó bạn có thể tính toán những
thứ như lỗi tiêu chuẩn, khoảng tin cậy, v.v.
intervals, and more.
• Bootstrap is similar to Monte Carlo method but
the `simulation' is carried out from the data itself.
• A very general, mostly non-parametric
procedure, and is widely applicable.
• Applications to regression, cases where the
procedure fails, and where it outperforms
traditional procedures will be also discussed
Goodness of Fit
• "Goodness of Fit" refers to the measure of how
well a statistical model's predicted values match
with the actual observed values.
• Techniques of Goodness of Fit:
 Chi-Squared (χ²) Goodness of Fit Test
 Kolmogorov-Smirnov Test: This test is used to
determine if a sample data follows a particular
distribution. It is a non-parametric test that
compares the empirical distribution function of
sample data with the cumulative distribution
function of a reference distribution or another
empirical distribution.
 Anderson-Darling Test: Like the Kolmogorov-
Smirnov test, this test is used to test if a data
sample follows a particular distribution. The
AndersonDarling test gives more weight to the
tails of the distribution.
 R-squared (Coefficient of Determination):
Commonly used in regression analysis, R-squared
measures the proportion of the variance in the
dependent variable that's predictable from the
independent variables.
 Root Mean Square Error (RMSE) and Mean
Absolute Error (MAE): These are measures of the
differences between values predicted by a model
and the values observed. They provide a way to
quantify the model's accuracy.
 Bayesian Information Criterion (BIC):
What is data?
Categorical (Qualitative)
– Nominal scales – number is just a symbol that
identifies a quality
• 0=male, 1=female
• 1=green, 2=blue, 3=red, 4=white
• Bootstrap tương tự như phương pháp Monte
Carlo nhưng việc `mô phỏng' được thực hiện
từ chính dữ liệu đó.
• Một thủ tục rất tổng quát, chủ yếu là phi tham
số và được áp dụng rộng rãi.
• Ứng dụng hồi quy, trường hợp quy trình thất bại
và trường hợp nó vượt trội so với các thủ tục
truyền thống cũng sẽ được thảo luận
Sự tốt lành của sự phù hợp
• "Mức độ phù hợp" đề cập đến thước đo mức độ
thống kê giá trị dự đoán của mô hình khớp với
giá trị quan sát thực tế.
• Kỹ thuật về sự phù hợp tốt:
 Chi-Squared (χ²) Kiểm tra độ phù hợp
 Kiểm định Kolmogorov-Smirnov: Kiểm định
này được sử dụng để xác định xem dữ liệu mẫu
có tuân theo một phân phối cụ thể. Đây là một
thử nghiệm phi tham số để so sánh hàm phân
phối thực nghiệm của dữ liệu mẫu với phân phối
tích lũy hàm của một phân phối tham chiếu hoặc
một phân phối thực nghiệm khác.
 Kiểm định Anderson-Darling: Giống như kiểm
định Kolmogorov-Smirnov, kiểm định này được
sử dụng để kiểm tra xem mẫu dữ liệu có tuân
theo một phân phối cụ thể hay không. Phép thử
AndersonDarling mang lại nhiều ý nghĩa hơn cho
các phần cuối của phân phối.
 R-squared (Hệ số xác định): Thường dùng
trong hồi quy phân tích, R bình phương đo tỷ lệ
phương sai trong biến phụ thuộc có thể dự đoán
được từ các biến độc lập.
 Căn bậc hai Sai số bình phương trung bình
(RMSE) và Sai số tuyệt đối trung bình (MAE):
Đây là những là thước đo sự khác biệt giữa các
giá trị được dự đoán bởi một mô hình và các giá
trị được quan sát. Chúng cung cấp một cách để
định lượng độ chính xác của mô hình.
 Tiêu chí thông tin Bayesian (BIC):
Dữ liệu là gì?
Phân loại (Định tính)
– Thang đo danh nghĩa – con số chỉ là ký hiệu
xác định một chất lượng
• 0=nam, 1=nữ
• 1=xanh lá cây, 2=xanh dương, 3=đỏ, 4=trắng
– Ordinal – rank order
Quantitative (continuous and discrete)
– Interval – units are of identical size (i.e. Years)
– Ratio – distance from an absolute zero (i.e. Age,
reaction time) Data is a collection of facts, or
figures while information puts those facts into
context.
=are processed, interpreted, organized, structured
or presented
What is a measurement?
Every measurement has 2 parts:
The True Score (the actual state of things in the
world)
And
ERROR! (mistakes, bad measurement, report
bias, context effects, etc.)
X=T+e
/7
– Thứ tự – thứ tự xếp hạng
Định lượng (liên tục và rời rạc)
– Khoảng – đơn vị có kích thước giống hệt nhau
(tức là Năm)
– Tỷ lệ – khoảng cách từ điểm 0 tuyệt đối (tức là
Tuổi, phản ứng thời gian) Dữ liệu là tập hợp các
sự kiện, hoặc số liệu trong khi thông tin đặt
những sự thật đó vào bối cảnh.
= được xử lý, diễn giải, có tổ chức, có cấu trúc
hoặc trình bày
Một phép đo là gì?
Mỗi phép đo đều có 2 phần:
Điểm thực (trạng thái thực tế của mọi thứ trên thế
giới)
Và
LỖI! (sai lầm, đo lường kém, báo cáo sai lệch,
hiệu ứng bối cảnh, v.v.)
X=T+e