相机标定

相机标定：简单的说，就是获得相机参数的过程。参数如：相机内参数矩阵，投影矩阵，旋转矩阵和平移矩阵等

• 什么叫相机参数？

简单的说，将现实世界中的人、物，拍成一张图像（二维）。人或物在世界中的三维坐标，和图像上对应的二维坐标间的关系。表达两种不同维度坐标间的关系用啥表示？用相机参数。

• 相机的成像原理

先来看一下，相机的成像原理：

如图所示，这是一个相机模型。将物体简化看成一个点。来自物体的光，通过镜头，击中图像平面（图像传感器），以此成像。d0是物体到镜头的距离，di是镜头到图像平面的距离，f是镜头的焦距。三者满足以下关系。

现在，简化上面的相机模型。
将相机孔径看成无穷小，只考虑中心位置的射线，这样就忽视了透镜的影响。然后由于d0远远大于di，将图像平面放在焦距处，这样物体在图像平面上成像为倒立的影像（没有透镜的影响，只考虑从中心的孔径进入的光线）。这个简化的模型就是针孔摄像机模型。然后，我们在镜头前，将图像平面放在焦距距离的位置，就可以简单获得一个笔直的图像（不倒立）。当然，这只是理论上的，你不可能将图像传感器从相机里拿出来，放在镜头前面。实际应用中，针孔摄像机应该是将成像后的图像倒过来，以获得正立的图像。
到此，我们获得了一个简化的模型，如下图：

h0是物体的高，hi是图像上物体的高，f是焦距（距离），d0是图像到镜头的距离。四者满足如下关系：
（1）
物体在图像中的高度hi，和d0成反比。也就是说，离镜头越远，物体在图像中越小，离得越近越大（好吧，这句话是废话）。
但通过这个式子，我们便能够预测三维中的物体，在图像（二维）中的位置。那么怎么预测？

• 相机标定

如下图所示，根据上面简化的模型，考虑三维世界中的一个点，和其在图像（二维）中的坐标关系。

（X，Y，Z）为点的三维坐标，（x，y）为其通过相机成像后在图像（二维）上的坐标。u0和v0是相机的中心点（主点)，该点位于图像平面中心（理论上是这样。但实际的相机会有几个像素的偏差）
现在只考虑y方向上，由于需要将三维世界中的坐标，转换为图像上的像素（图像上的坐标，实际上是像素的位置），需要求y方向上焦距等于多少个像素（用像素值表示焦距），Py表示像素的高，焦距f（米或毫米）。垂直像素表示的焦距为
根据式子（1），只考虑y方向。我们三维世界中得点，在图像（二维）中y的坐标。

同理，得到x的坐标。

现在，将上图中的坐标系的原点O，移动到图像的左上角。由于（x，y）是关于（u0，v0）的偏移，上面表示图像（二维）中点的坐标的式子不变。将式子以矩阵的形式重写，得。

其中，等式左边的第一个矩阵，叫做“相机内参数矩阵”，第二个矩阵叫（投影矩阵）。

更为一般的情况，开始时的参考坐标系不位于主点（中心点），需要额外两个参数“旋转向量”和“平移向量”来表示这个式子，这两个参数在不同视角中是不一样的。整合后，上述式子重写为。

• 校正畸变
  通过相机标定，获得了相机参数后，可以计算两个映射函数（x坐标和y坐标），它们分别给出了没有畸变的图像坐标。将畸变的图像重新映射成为没有畸变的图像。

代码：

做相机标定时，一般用标定板(棋盘）拍摄一组图像，利用这些图像提取角点，通过角点在图像中得坐标和三维世界中的坐标（通常自定义3维坐标），计算相机参数。

std::vector<cv::Point2f>imageConers;
//提取标定图像角点，保存角点坐标（二维）cv::findChessboardCorners(image,boardSize, //角点数目如（6,4）六行，四列imageConers);

函数calibrateCamera完成相机标定工作。

cv::calibrateCamera(objectPoints,//三维坐标imagePoints, //二维坐标imageSize,//图像大小camerMatirx,//相机内参数矩阵disCoeffs,//投影矩阵rvecs, //旋转tvecs,//平移
flag  //标记opencv提供几种参数，可以参看在线的opencv document
);

计算畸变参数，去畸变

//计算畸变参数
cv::initUndistortRectifyMap(camerMatirx, disCoeffs,cv::Mat(), cv::Mat(), image.size(), CV_32FC1, map1, //x映射函数map2  //y映射函数);
//应用映射函数
cv::remap(image, //畸变图像
undistorted, //去畸变图像
map1, map2, cv::INTER_LINEAR);

现在整合代码。

• 示例：

标头.h

#include<opencv2\core\core.hpp>
#include<opencv2\highgui\highgui.hpp>
#include<opencv2\imgproc\imgproc.hpp>
#include<opencv2\calib3d\calib3d.hpp>
#include <opencv2/features2d/features2d.hpp>
#include<string>
#include<vector>
class CameraCalibrator
{
private://世界坐标std::vector < std::vector<cv::Point3f >> objectPoints;//图像坐标std::vector <std::vector<cv::Point2f>> imagePoints;//输出矩阵cv::Mat camerMatirx;cv::Mat disCoeffs;//标记int flag;//去畸变参数cv::Mat map1, map2;//是否去畸变bool mustInitUndistort;///保存点数据void addPoints(const std::vector<cv::Point2f>&imageConers, const std::vector<cv::Point3f>&objectConers){imagePoints.push_back(imageConers);objectPoints.push_back(objectConers);}
public:CameraCalibrator() :flag(0), mustInitUndistort(true){}//打开棋盘图片，提取角点int addChessboardPoints(const std::vector<std::string>&filelist,cv::Size &boardSize){std::vector<cv::Point2f>imageConers;std::vector<cv::Point3f>objectConers;//输入角点的世界坐标for (int i = 0; i < boardSize.height; i++){for (int j = 0; j < boardSize.width; j++){objectConers.push_back(cv::Point3f(i, j, 0.0f));}}//计算角点在图像中的坐标cv::Mat image;int success = 0;for (int i = 0; i < filelist.size(); i++){image = cv::imread(filelist[i],0);//找到角点坐标bool found = cv::findChessboardCorners(image, boardSize, imageConers);cv::cornerSubPix(image, imageConers,cv::Size(5, 5),cv::Size(-1, -1),cv::TermCriteria(cv::TermCriteria::MAX_ITER + cv::TermCriteria::EPS,30, 0.1));if (imageConers.size() == boardSize.area()){addPoints(imageConers, objectConers);success++;}//画出角点cv::drawChessboardCorners(image, boardSize, imageConers, found);cv::imshow("Corners on Chessboard", image);cv::waitKey(100);}return success;}//相机标定double calibrate(cv::Size&imageSize){mustInitUndistort = true;std::vector<cv::Mat>rvecs, tvecs;//相机标定return cv::calibrateCamera(objectPoints, imagePoints, imageSize,camerMatirx, disCoeffs, rvecs, tvecs, flag);}///去畸变cv::Mat remap(const cv::Mat &image){cv::Mat undistorted;if (mustInitUndistort){//计算畸变参数cv::initUndistortRectifyMap(camerMatirx, disCoeffs,cv::Mat(), cv::Mat(), image.size(), CV_32FC1, map1, map2);mustInitUndistort = false;}//应用映射函数cv::remap(image, undistorted, map1, map2, cv::INTER_LINEAR);return undistorted;}//常成员函数，获得相机内参数矩阵、投影矩阵数据cv::Mat getCameraMatrix() const { return camerMatirx; }cv::Mat getDistCoeffs()   const { return disCoeffs; }
};

源.cpp

#include"标头.h"
#include<iomanip>
#include<iostream>
int main()
{CameraCalibrator Cc;cv::Mat image;std::vector<std::string> filelist;cv::namedWindow("Image");for (int i = 1; i <= 22; i++){///读取图片std::stringstream s;s << "D:/images/chessboards/chessboard" << std::setw(2) << std::setfill('0') << i << ".jpg";std::cout << s.str() << std::endl;filelist.push_back(s.str());image = cv::imread(s.str(),0);cv::imshow("Image", image);cv::waitKey(100);}//相机标定cv::Size boardSize(6, 4);Cc.addChessboardPoints(filelist, boardSize);Cc.calibrate(image.size());//去畸变image = cv::imread(filelist[1]);cv::Mat uImage=Cc.remap(image);cv::imshow("原图像", image);cv::imshow("去畸变", uImage);//显示相机内参数矩阵cv::Mat cameraMatrix = Cc.getCameraMatrix();std::cout << " Camera intrinsic: " << cameraMatrix.rows << "x" << cameraMatrix.cols << std::endl;std::cout << cameraMatrix.at<double>(0, 0) << " " << cameraMatrix.at<double>(0, 1) << " " << cameraMatrix.at<double>(0, 2) << std::endl;std::cout << cameraMatrix.at<double>(1, 0) << " " << cameraMatrix.at<double>(1, 1) << " " << cameraMatrix.at<double>(1, 2) << std::endl;std::cout << cameraMatrix.at<double>(2, 0) << " " << cameraMatrix.at<double>(2, 1) << " " << cameraMatrix.at<double>(2, 2) << std::endl;cv::waitKey(0);
}

实验结果：


看以看到，相机内参数矩阵为
172.654 、0、157.829
0、184.195、118.635
0 、0 、1