From f8e46822b9f5c44d614523ffe2813155ae289fb8 Mon Sep 17 00:00:00 2001 From: Chao Qu Date: Thu, 15 Nov 2018 11:34:55 -0500 Subject: [PATCH] Quaterniond::w returns const double & instead of double to work with Eigen CoeffReturnType --- python/core/eigen_types.h | 10 +++++----- 1 file changed, 5 insertions(+), 5 deletions(-) diff --git a/python/core/eigen_types.h b/python/core/eigen_types.h index b58d529..5949cb7 100644 --- a/python/core/eigen_types.h +++ b/python/core/eigen_types.h @@ -182,10 +182,10 @@ void declareEigenTypes(py::module & m) { return Eigen::Quaterniond::FromTwoVectors(a, b); }) - .def("x", (double (Eigen::Quaterniond::*) () const) &Eigen::Quaterniond::x) - .def("y", (double (Eigen::Quaterniond::*) () const) &Eigen::Quaterniond::y) - .def("z", (double (Eigen::Quaterniond::*) () const) &Eigen::Quaterniond::z) - .def("w", (double (Eigen::Quaterniond::*) () const) &Eigen::Quaterniond::w) + .def("x", (const double& (Eigen::Quaterniond::*) () const) &Eigen::Quaterniond::x) + .def("y", (const double& (Eigen::Quaterniond::*) () const) &Eigen::Quaterniond::y) + .def("z", (const double& (Eigen::Quaterniond::*) () const) &Eigen::Quaterniond::z) + .def("w", (const double& (Eigen::Quaterniond::*) () const) &Eigen::Quaterniond::w) .def("vec", (const Eigen::VectorBlock (Eigen::Quaterniond::*) () const) &Eigen::Quaterniond::vec) @@ -292,4 +292,4 @@ void declareEigenTypes(py::module & m) { } -} // end namespace g2o \ No newline at end of file +} // end namespace g2o