Oracle数据实时同步大数据平台的解决方案
摘要:基于传统企业Oracle数据库实时增量数据同步到Kafka消息系统,供下游做实时分析/实时ETL等场景,引进Oracle GoldenGate组件提供不影响系统处理功能的实时数据集成和持续可用性解决方案,使企业能显著提高整个企业关键系统的可用性、可靠性和性能并同时降低IT成本。
一、企业现状篇
传统企业对信息化系统追求高稳定性和高可靠性,建立系统时期数据库方面大多数选择当时较为流行且稳定的Oracle数据库。随着DT时代到来,使得金融保险业对数据的依赖越发加强,传统Oracle已不能完全满足保险企业日益增多的全方位数据分析需求,传统企业整个IT架构和模式存在十年以上,完全推倒重来使用开源数据库替代,极其伤筋动骨,如何在现有架构不影响系统运行去实现数据对接大数据平台,利用大数据技术和能力提供更多价值的数据服务。
二、数据同步篇
传统关系型数据库数据同步到大数据平台的方式有很多。1.全量同步
2.按时间戳增量同步
3.基于数据库归档日志的同步
全量同步和按时间戳增量同步工具如Sqoop,DataX,FlinX都可以完美解决离线批处理同步方案,但不能满足实时场景需求,基于数据库归档日志的同步属于实时数据同步,如开源mysql可使用Canal利用主从自动同步机制实时采集binlog,对于商业软件Oracle数据库的日志格式不是公开的,没有开源解决方案,选择引进Oracle数据集成产品组件Oracle GoldenGate(OGG)来实现,OGG可提供不影响系统处理功能的实时数据集成和持续可用性解决方案,使企业能显著提高整个企业关键系统的可用性、可靠性和性能并同时降低IT成本。OGG For BigData可支持对接Kafka/HDFS/HBase/Elasticsearch/Flume/JDBC/MongoDB 等大数据常用组件。链接:https://docs.oracle.com/en/middleware/goldengate/big-data/index.html
三、安装配置篇
下面主要介绍Oracle数据实时增量同步Kafka消息系统,供下游做实时处理场景。源端 oracle database + oracle goldengate for oracle,目标端oracle goldengate for bigdata +kafka
(一)环境准备
1.java环境变量(版本jdk1.8)
2.机器网络连通
3.机器时钟同步
4.源端oracle数据库(版本11.2.0.4以上)
(二)环境背景
1.源端
机器IP: 192.168.72.3
服务:oracle, ogg的mgr(端口7809), ext_test, dpe_test
2.目标端
机器IP: 192.168.72.3
服务:ogg的mgr(端口7909), rep_test,zookeeper, kafka
3.版本
oracle 版本 11g release 2
kafka 版本 2.11-2.0.0
zookeeper 版本 3.4.13
JVM 版本,1.8(ogg for big data必须1.8 以上,否者无法启动)
ogg 源端安装包文件名,123010_fbo_ggs_Linux_x64_shiphome
ogg 目标端安装包文件名,123010_ggs_Adapters_Linux_x64
(三)源端配置
1.解压安装
1.设置response参数
[oracle@stream ~]$ cd /home/oracle/tmp/fbo_ggs_Linux_x64_shiphome/Disk1
[oracle@stream Disk1]$vi ./response/oggcore.rsp
INSTALL_OPTION=ORA11g
SOFTWARE_LOCATION=/home/oracle/software/oracle/goldengate
START_MANAGER=false
MANAGER_PORT=7809
DATABASE_LOCATION=$ORACLE_HOME
UNIX_GROUP_NAME=oracle
# INSTALL_OPTION 安装选项 oracle11g设置ORA11g;oracle12c设置ORA12c
# SOFTWARE_LOCATION OGG的安装目录
# START_MANAGER是否自动启动mgr管理进程 true,false
# MANAGER_PORT mgr启动端口,START_MANAGER=true时添加
# START_MANAGER 数据库地址 START_MANAGER=true时添加$ORACLE_HOME
# UNIX_GROUP_NAME 系统权限组
2.运行安装程序
[oracle@ogg Disk1]$ ./runInstaller -silent -responseFile /home/oracle/tmp/fbo_ggs_Linux_x64_shiphome/Disk1/response/oggcore.rsp
2.环境变量
goldengate安装要配置JAVA_HOME、ORACLE_SID、ORACLE_HOME、SOGG_HOME 、LD_LIBRARY_PATH环境变量。
#jdk
export JAVA_HOME=/home/oracle/software/jdk/jdk1.8.0_162
export PATH=$JAVA_HOME/bin:$PATH
#oracle
export ORACLE_HOME=/home/oracle/software/oracle/database/oracle11g/product/11.2.0/dbhome_1
export ORACLE_SID=orcl
export PATH=$PATH:$ORACLE_HOME/bin:$ORACLE_HOME/OPatch
#goldengate
export SOGG_HOME=/home/oracle/software/oracle/goldengate
export LD_LIBRARY_PATH=$ORACLE_HOME/lib:$ORACLE_HOME/lib32:$SOGG_HOME
export PATH=$PATH:$SOGG_HOME
3.权限分配
1.归档日志
源端数据库要开归档模式、置成force logging、开追加日志操作。
①Archive logging
检查oracle 是否已经开启 Archive logging(日志自动归档)
方式一:
[oracle@stream ~]$ sqlplus / as sysdba
SQL> archive log list
Database log mode No Archive Mode
Automatic archival Disabled
Archive destination USE_DB_RECOVERY_FILE_DEST
Oldest online log sequence 6
Current log sequence 8
SQL>
方式二:
SQL> select name,log_mode from v$database;
LOG_MODE 显示NOARCHIVELOG则代表没有开启。
如果没有开启Archive logging,需要先停止数据库,执行以下命令:
SQL> shutdown immediate;
SQL> startup mount;
SQL> alter database archivelog;
Database altered.
SQL> alter database open;
②forcelogging & minimal supplemental logging
检查是否开启 forcelogging 和 minimal supplemental logging
SQL> SELECT supplemental_log_data_min,force_logging FROM v$database;
环境没有开启屏幕输出NO、开启输出YES,所以还需要执行开启命令,执行完毕后,我们再来查看forcelogging和minimal supplemental logging 的开启情况
SQL> alter database add supplemental log data;
SQL> alter database force logging;
//TODO待验证
SQL> alter database add supplemental log data (primary key) columns;
SQL> alter database add supplemental log data (unique) columns;
SQL> alter database force logging;
SQL> alter system switch logfile;
注意:如果不指定Primary key 和unique 属性,OGG将不会传送PK字段或Unique indiex字段信息。这样,下游的应用,在处理update数据时将失去依据
检查开启情况,显示如下则代表ok
查看forcelogging和minimal supplemental logging 的开启情况
SQL> SELECT supplemental_log_data_min,force_logging FROM v$database;
SUPPLEME FOR
-------- ---
IMPLICIT YES
③ENABLE_GOLDENGATE_REPLICATION参数
alter system set ENABLE_GOLDENGATE_REPLICATION=true scope=both;
2.指定用户并授权
create user goldengate identified by <password>;
grant connect to goldengate;
grant alter session to goldengate;
grant create session to goldengate;
grant connect to goldengate;
grant resource to goldengate;
grant select any dictionary to goldengate;
grant select any table to goldengate;
grant insert any table to goldengate;
grant update any table to goldengate;
grant delete any table to goldengate;
grant create any table to goldengate;
grant alter any table to goldengate;
grant select any transaction to goldengate;
grant create any index to goldengate;
grant alter any index to goldengate;
grant create any sequence to goldengate;
grant unlimited tablespace to goldengate;
grant drop any table to goldengate;
grant drop any sequence to goldengate;
grant flashback any table to goldengate;
3.Register Extract Process
--这里是Enable integrated capture mode的关键步骤
[oracle@stream goldengate]$ ./ggsci
GGSCI (stream) 1> dblogin userid goldengate password <password>
GGSCI (stream as goldengate@orcl) 2> register extract ext_test database
2020-04-02 18:30:01 ERROR OGG-02062 User goldengate does not have the required privileges to use integrated capture.
---需要授权, 且注意用户名要大写
SQL> exec DBMS_GOLDENGATE_AUTH.GRANT_ADMIN_PRIVILEGE (grantee=>'GOLDENGATE', privilege_type=>'capture',grant_select_privileges=>true, do_grants=>TRUE);
PL/SQL procedure successfully completed.
SQL>
GGSCI (stream as goldengate@orcl) 2> register extract ext_test database
2020-04-02 19:14:47 INFO OGG-02003 Extract EXT_TEST successfully registered with database at SCN 1067318.
GGSCI (stream as goldengate@orcl) 3>
//TODO其他异常
GGSCI (stream as goldengate@orcl) 3> register extract ext_test database
2020-04-02 19:14:50 WARNING OGG-02064 Oracle compatibility version 11.2.0.0.0 has limited datatype support for integrated capture. Version 11.2.0.3 required for full support.
ERROR: Cannot register or unregister EXTRACT EXT_TEST because of the following SQL error: OCI Error 6,550.
--上面错误是由于权限不够,授权,
SQL>exec DBMS_GOLDENGATE_AUTH.GRANT_ADMIN_PRIVILEGE (grantee=>'GOLDENGATE');
ERROR: Cannot register or unregister EXTRACT EXT_TEST because of the following SQL error: OCI Error 1,950.
--上面错误是由于权限不够,授权,
SQL>GRANT UNLIMITED TABLESPACE TO GOLDENGATE;
GGSCI (stream as goldengate@orcl) 3> register extract ep1 database
2020-04-02 19:14:50 WARNING OGG-02064 Oracle compatibility version 11.2.0.0.0 has limited datatype support for integrated capture. Version 11.2.0.3 required for full support.
Extract EXT_TEST successfully registered with database at SCN 224553.
--看到已经注册成功
4.Enable表的supplemental logging
GGSCI (stream) 1> dblogin userid goldengate password <password>
GGSCI (stream) 2> add trandata STAT.PRPCMAIN
4.MGR
MGR进程管理启动Oracle GoldenGate进程、启动动态进程、分配端口给GoldenGate进程、管理trail file、创建事件,错误和诊断报告工作,必须在第一时间启动;当某些原因导致GoldenGate崩溃或重启机器时,默认情况MGR是没有启动。
1.配置
GGSCI (stream) 1> edit params mgr
PORT 7809
DYNAMICPORTLIST 7810-7820
AUTOSTART EXTRACT *
PURGEOLDEXTRACTS ./dirdat/*,usecheckpoints, minkeepdays 10
Lagcriticalminutes 60
lagreportminutes 5
ACCESSRULE, PROG *, IPADDR 10.10.*.*, ALLOW
参数 | 说明 |
PORT | 表示MGR进程端口号 |
DYNAMICPORTLIST | 表示MGR进程动态为其它进程如Extract进程、Replicat进程分配的端口,可以是具体端口号或区间值 |
AUTOSTART | 当MGR启动时启动相应的EXTRACT和REPLICAT |
AUTORESTART | 自动启动失败的OGG进程,上面指定了只重试一次 |
PurgeMarkerHistory | 定义了清理DDL复制数据策略 |
2.streams_pool_size
配置streams_pool_size参数(每个节点都要执行),可调节
SQL> alter system set streams_pool_size=512M sid=’<sid>’;
5.EXTRACT
1.创建
GGSCI (stream) 1> add extract ext_test integrated tranlog, begin now
GGSCI (stream) 1> ADD EXTTRAIL ./dirdat/ex , EXTRACT ext_test, MEGABYTES 200
2.配置
GGSCI (stream) 1> edit params ext_test
extract ext_test
setenv (NLS_LANG="AMERICAN_AMERICA.ZHS16GBK")
userid goldengate@<service_name>, password <password>
--TRANLOGOPTIONS DBLOGREADER
TRANLOGOPTIONS INTEGRATEDPARAMS (MAX_SGA_SIZE 100)
exttrail ./dirdat/ex
discardfile ./dirrpt/ext_test.dsc, append
GETUPDATES
GETDELETES
GETINSERTS
ddl include mapped objtype 'TABLE' include mapped objtype 'INDEX'
ddloptions addtrandata
ddloptions report
statoptions reportfetch
reportrollover at 08:30
TABLE STAT.PRPCMAIN;
参数 | 说明 |
GETUPDATES|IGNOREUPDATES | 是否复制UPDATE操作,缺省复制 |
GETDELETES|IGNOREDELETES | 是否复制DELETE操作,缺省复制 |
GETINSERTS|IGNOREINSERTS | 是否复制INSERT操作,缺省复制 |
|
|
6.PUMP
1.创建
GGSCI (stream) 1> ADD EXTRACT dpe_test, EXTTRAILSOURCE ./dirdat/ex
GGSCI (stream) 1> ADD RMTTRAIL ./dirdat/re, EXTRACT dpe_test, MEGABYTES 200
红色字体./dirdat/ex是源端ext_test 的路径,绿色字体./dirdat/re是发送到远端服务rep_test的路径。
2.配置
GGSCI (stream) 1> edit params dpe_test
extract dpe_test
rmthost 10.***, mgrport 7809
rmttrail ./dirdat/re
TABLE STAT.PRPCMAIN;
参数 | 说明 |
RMTHOST | 指定目标端地址和端口等信息 |
RMTTRAIL | 指定目标端保存trail文件的目录和两个字符文件名 |
TABLE | 指定同步的表,配置的方式同在主抽取进程(Primary Extract)的配置一样 |
|
|
(四)目标端配置
1.环境变量
goldengate for bigdata 安装要配置JAVA_HOME、TOGG_HOME 、LD_LIBRARY_PATH环境变量
#jdk
export JAVA_HOME=/home/hadoop/software/jdk/jdk1.8.0_162
export PATH=$JAVA_HOME/bin:$PATH
#zookeeper
export ZOOKEEPER_HOME=/home/hadoop/software/zookeeper/zookeeper-3.4.13
export PATH=$PATH:$ZOOKEEPER_HOME/bin
#kafka
export KAFKA_HOME=/home/hadoop/software/kafka/kafka_2.11-2.0.0
export PATH=$PATH:$KAFKA_HOME/bin
#goldengate
export TOGG_HOME=/home/hadoop/software/goldengate/ogg_bigdata_12.3.0.1
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$TOGG_HOME:$JAVA_HOME/jre/lib/amd64/libjsig.so:$JAVA_HOME/jre/lib/amd64/server/libjvm.so:$JAVA_HOME/jre/lib/amd64/server:$JAVA_HOME/jre/lib/amd64
export PATH=$PATH:$TOGG_HOME
2.MGR
1.配置
[hadoop@stream ogg_bigdata_12.3.0.1]$ ./ggsci
GGSCI (stream) 1> CREATE SUBDIRS
GGSCI (stream) 2> edit param mgr
PORT 7909
DYNAMICPORTLIST 7910-7920
AUTOSTART ER E*
AUTORESTART ER P*,RETRIES 4, WAITMINUTES 4
STARTUPVALIDATIONDELAY 5
3.REPLICAT
1.创建
GGSCI (stream) 3> add replicat rep_test, exttrail ./dirdat/re
2.配置
GGSCI (stream) 4> edit param rep_test
REPLICAT rep_test
TARGETDB LIBFILE libggjava.so SET property=dirprm/kafka.props
REPORTCOUNT EVERY 1 MINUTES, RATE
MAP STAT.PRPCMAIN, TARGET STAT.PRPCMAIN;
3.KAFKA
[hadoop@stream ogg_bigdata_12.3.0.1]$ cd dirprm/
[hadoop@stream dirprm]$ vi kafka.props
[hadoop@stream dirprm]$ vi custom_kafka_producer.properties
详细参数说明见官网链接:
https://docs.oracle.com/goldengate/bd1221/gg-bd/GADBD/GUID-2561CA12-9BAC-454B-A2E3-2D36C5C60EE5.htm#GADBD449
(五)常用命令
1.查看编辑进程参数
view param ext_test
edit param ext_test
2.查看进程异常
view report ext_test
3.修改进程按最新数据抽取
alter extract ext_test,begin now
(六)异常问题
我摊牌了,本文重点避坑指南。
1.目标端和源端版本问题
ERROR OGG-01332 File ./dirdat/re000000000, with compatibility level 6, is not compatible with the current software version's compatibility level of 5.Modify the file writer's parameter file to generate the appropriate format using the FORMAT LEVEL 5 option
EXTCART抽取进程在抽取队列后加FORMAT RELEASE 12.2
exttrail ./dirdat/ex,format RELEASE 12.2
PUMP投递进程在投递队列后加format level 5
rmttrail ./dirdat/re,format level 5
删除进程,删除dirdat文件夹源端的抽取文件和目标端的复制文件,重新添加进程。
长按,扫码,关注
及时收看更多精彩内容
如若内容造成侵权/违法违规/事实不符,请联系编程学习网邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
相关文章
- Java编程基础(一)
文章目录一、Java基础概念1、一些常用快捷键2、Java的几个基本命令3、Java跨平台特性4.JavaME、JavaSE、JavaEE二、Java的开发环境搭建1、常用开发工具及其快捷键三、第一个Java程序-记事本(Notepad++)1.提示2.适用内容四、Java基础部分1.变量和数据类型(一)概念• Java是强…...
2024/4/7 5:27:55 - 拯救者 R7000 2020/Nvidia 1650/Win10 安装 Ubuntu 20.04 双系统解决黑屏问题
安装https://blog.csdn.net/ai_faker/article/details/106874185下载系统 iso 文件制作U盘启动盘压缩磁盘开机F2,进入 Bios 将 Graphic Device 设置为 Switchable Graphics, More 进入 security 将 secure boot 设为 Disabled保存退出,开机 F12 进入安装过程记住设置的账号:…...
2024/4/7 1:33:38 - 一文读懂MySQL执行计划与SQL优化
在实际工作或者面试中,经常会碰到MySQL索引、SQL优化方面的问题。本文将全面解读MySQL的执行计划以及SQL优化,这里默认采用Innodb存储引擎。执行计划是什么使用Explain关键字可以模拟优化器执行SQL查询语句,从而知道MySQL是如何处理你的SQL语句的,分析查询语句或是表结构的…...
2024/4/23 3:11:47 - php判断两个日期相差多少天源代码
<?php $a=$_POST[rq1]; $b=$_POST[rq2]; date_default_timezone_set(UTC); echo $a.<br>; echo $b.<br>; strtotime(2020-01-01 23:00:00); $d=strtotime("$a"); $e=strtotime("$b"); //$c=$d-$e; $c= ($d - $e)/ 86400; echo 相差.$c.&qu…...
2024/4/7 10:35:37 - 某校2019专硕编程题
问题 输入学生成绩,并按输入顺序编号,再按成绩进行降序排序,输出前10名的学生成绩,如果学生人数不足十人则只输出仅有的学生成绩。 例如 输入20 30 40 50 70 -1(结束),输出:X号,XX分 Java实现 static class Student{Integer num,score;Student(Integer num,Integer sc…...
2024/4/11 18:28:38 - Seeker的奇妙求职历险(网易互联网笔试)
素数的个数 给出一个包含n个正整数的数组a,把a[i]拆分为若干个和为a[i]的素数,求拆分后最多能有多少个素数。第一行数据为n,表示数组长度,第二行为n个元素。 输入 3 1 1 1 输出 0 1不可拆分 输入 1 3 5 7 6 1为0个,3为1个,5为(2,3),7为(2,2,3)分析: 这道题比较简单…...
2024/4/17 5:59:17 - C语言学习第008课——内存和指针
内存含义存储器:计算机的组成中,用来存储程序和数据,辅助CPU进行运算处理的重要部分 内存:内部存储器,暂存程序/数据——掉电丢失,SRAM DRAM DDR DDR1 DDR2 DDR3 外存:外部存储器,长时间保存程序/数据——掉电不丢失,ROM ERRROM FLASH(NAND,NOR) 硬盘 光盘 内存是沟通…...
2024/4/12 7:55:54 - 设计数据库、三大范式和mysql正则表达式
设计数据库 1. 为什么要设计数据库 当数据库比较复杂的手,我们就需要设计了糟糕的数据库设计:数据冗余,浪费空间 数据库插入和删除都会麻烦、异常 程序的性能差良好的数据库设计:节省内存空间 保证数据库的完整性 方便我们开发系统2.设计数据库的步骤:收集信息,分析需求 …...
2024/4/19 4:10:36 - 121 Servlet_4 _Servlet详解与应用【重点】
文章目录一、Servlet详解【重点】1.1 Servlet核心接口和类1.1.1 Servlet 接口1.1.2 GenericServlet 抽象类1.1.3 HttpServlet类1.2 Servlet两种创建方式1.2.1 实现接口 Servlet1.2.2 继承HttpServlet (推荐)1.2.3常见锗误1.3 Servlet两种配置方式1.3.1 使用web.…...
2024/4/23 17:51:46 - C#可能为空对象属性取值比较的方法
string strs = null;// 出现异常bool bool1 = strs.Length == 0;// 不会出现异常 strs?.Length 的类型是int?(可为null的int类型)bool bool2 = (strs?.Length ?? 0) == 0;...
2024/4/24 20:47:45 - 该如何一步步构建一个基于Redis的分布式锁?Redis分布式锁还是zookeeper锁好?
一、介绍讲介绍如何一步步构建一个基于Redis的分布式锁。会从最原始的版本开始,然后根据问题进行调整,最后完成一个较为合理的分布式锁。本篇文章会将分布式锁的实现分为两部分,一个是单机环境,另一个是集群环境下的Redis锁实现。在介绍分布式锁的实现之前,先来了解下分布…...
2024/4/17 4:36:50 - 使用nodejs+websocket实现网络同步编辑实例
网络协同编辑小例子 主要使用nodejs+websocket实现,可以实现不同房间共同编辑,代码比较粗糙,便于学习,主要是为了实现XYNotes部分功能实现的小例子。 详细代码主要代码 let ws = require(ws); //引入websocket模块 let uuid = require(uuid); //引入创建唯一id模块let sock…...
2024/4/7 22:12:20 - 特殊矩阵的存储压缩及解压
特殊矩阵的存储压缩及解压 #define _CRT_SECURE_NO_WARNINGS #define EMPTY_QUEUE_ERROR -999999 #include <stdio.h> #include <string.h> #include <math.h> #include <stdlib.h> #include <ctype.h> #define MAXLEN 100 typedef int Elem…...
2024/4/23 22:18:03 - 特征构造常用反复噶
统计量特征 1.四分位树,中位数,均值,标准差,偏差,偏度,峰度,离散系数;peek,脉冲等图形化的特征。 2.长短期统计量。(控制1中统计数据的时间长短) 3.时间衰减。(给不同时间的特征不同的权重) 周期值 1.前n个周期相同时间段的同期值。++其统计量。 2.同比/环比 数据…...
2024/4/14 10:31:56 - 解决vue项目中调用后台接口成功获取到数据但元素渲染报null错误
由于获取到后台数据是个对象,所以我在data里面定义数据的时候给赋的初值是null 假设: data(){return {videoObj:null} }template模板里对应的DOM元素: <div>{{ videoObj.title}} </div>由于给videoObj赋了null这个初值,所以在调用接口前初始渲染读取的是null,…...
2024/4/7 16:02:25 - 覆盖索引与SQL优化
文章目录什么叫做覆盖索引1.无WHERE条件的查询优化:2、二次检索优化3、分页查询优化 什么叫做覆盖索引 在了解覆盖索引之前我们先大概了解一下什么是聚集索引(主键索引)和辅助索引(二级索引) 聚集索引(主键索引): 聚集索引就是按照每张表的主键构造一颗B+树,同时叶子节点中…...
2024/4/19 3:42:41 - Python_头条项目介绍(1)
产品效果用户端移动webhttp://toutiao.research.itcast.cniOShttps://testflight.apple.com/join/pg2Axv6N (App下载地址)Androidhttps://fir.im/itcast (App下载地址)自媒体端http://ttmp.research.itcast.cnMIS管理后台http://ttmis.research.itcast.cn=====================…...
2024/4/13 8:23:50 - php判断输入字符出现多少次,最多出现多少次源代码
<?php $str=$_POST[a1]; $arr=str_split($str); $arr1=array(); for($i=0;$i<strlen($arr);$i++){$x=$arr[$i];$key=array_keys($arr1);if(in_array($x,$key)){$arr1[$x]+=1;}else{$arr1[$x]=1;} } $pos = array_search(max($arr1), $arr1); echo $pos.出现最多.<br&…...
2024/4/12 1:44:40 - 训练好后的神经网络如何快速定点化?
训练好后的神经网络如何快速定点化?如何把浮点权重快速定点化后使用在嵌入式设备中tensorflow模型的定点化如何量化和量化意义? 网络参数是按层组织,每层数值都在同一数量级,即范围相差不大,如[-6.0,4.0],有大量论文研究表明确认值最大和最小后每层数据使用8bit定点化量化…...
2024/4/7 17:46:56 - new的全局重载,类内部重载!
最近,有个童鞋问我,他对下面这种 new的奇怪写法不明白,很怪异,不像平时的用法,其实这个是new的一种用法而已,只是他接触的少,所以迷糊了,看看下面的代码,大家就知道为什么可以这么写了!#include <iostream> using namespace std;void* operator new(size_t siz…...
2024/4/8 7:31:03
最新文章
- 互联网大厂ssp面经,数据结构part3
1. 哈希表的原理是什么?如何解决哈希碰撞问题? a. 原理:通过哈希函数将每个键映射到一个唯一的索引位置,然后将值存储在对应索引位置的存储桶中。 b. 关键:将不同的键映射到不同的索引位置,以实现快速的插…...
2024/4/25 8:54:27 - 梯度消失和梯度爆炸的一些处理方法
在这里是记录一下梯度消失或梯度爆炸的一些处理技巧。全当学习总结了如有错误还请留言,在此感激不尽。 权重和梯度的更新公式如下: w w − η ⋅ ∇ w w w - \eta \cdot \nabla w ww−η⋅∇w 个人通俗的理解梯度消失就是网络模型在反向求导的时候出…...
2024/3/20 10:50:27 - WPS二次开发专题:如何获取应用签名SHA256值
作者持续关注WPS二次开发专题系列,持续为大家带来更多有价值的WPS开发技术细节,如果能够帮助到您,请帮忙来个一键三连,更多问题请联系我(QQ:250325397) 在申请WPS SDK授权版时候需要开发者提供应用包名和签…...
2024/4/23 6:15:54 - 手机无线投屏到windows11电脑
1 安装无线投影组件 2 电脑端打开允许其他设备投影的开关 3 手机找到投屏选项 4 手机搜索可用设备连接即可 这里的官方文档给的不太好,给了一些让人眼花撩乱的信息,以下是经过整合的有效信息...
2024/4/23 6:25:34 - 416. 分割等和子集问题(动态规划)
题目 题解 class Solution:def canPartition(self, nums: List[int]) -> bool:# badcaseif not nums:return True# 不能被2整除if sum(nums) % 2 ! 0:return False# 状态定义:dp[i][j]表示当背包容量为j,用前i个物品是否正好可以将背包填满ÿ…...
2024/4/25 1:03:45 - 【Java】ExcelWriter自适应宽度工具类(支持中文)
工具类 import org.apache.poi.ss.usermodel.Cell; import org.apache.poi.ss.usermodel.CellType; import org.apache.poi.ss.usermodel.Row; import org.apache.poi.ss.usermodel.Sheet;/*** Excel工具类** author xiaoming* date 2023/11/17 10:40*/ public class ExcelUti…...
2024/4/24 1:17:44 - Spring cloud负载均衡@LoadBalanced LoadBalancerClient
LoadBalance vs Ribbon 由于Spring cloud2020之后移除了Ribbon,直接使用Spring Cloud LoadBalancer作为客户端负载均衡组件,我们讨论Spring负载均衡以Spring Cloud2020之后版本为主,学习Spring Cloud LoadBalance,暂不讨论Ribbon…...
2024/4/24 11:04:21 - TSINGSEE青犀AI智能分析+视频监控工业园区周界安全防范方案
一、背景需求分析 在工业产业园、化工园或生产制造园区中,周界防范意义重大,对园区的安全起到重要的作用。常规的安防方式是采用人员巡查,人力投入成本大而且效率低。周界一旦被破坏或入侵,会影响园区人员和资产安全,…...
2024/4/24 9:59:40 - VB.net WebBrowser网页元素抓取分析方法
在用WebBrowser编程实现网页操作自动化时,常要分析网页Html,例如网页在加载数据时,常会显示“系统处理中,请稍候..”,我们需要在数据加载完成后才能继续下一步操作,如何抓取这个信息的网页html元素变化&…...
2024/4/24 11:04:20 - 【Objective-C】Objective-C汇总
方法定义 参考:https://www.yiibai.com/objective_c/objective_c_functions.html Objective-C编程语言中方法定义的一般形式如下 - (return_type) method_name:( argumentType1 )argumentName1 joiningArgument2:( argumentType2 )argumentName2 ... joiningArgu…...
2024/4/24 11:04:20 - 【洛谷算法题】P5713-洛谷团队系统【入门2分支结构】
👨💻博客主页:花无缺 欢迎 点赞👍 收藏⭐ 留言📝 加关注✅! 本文由 花无缺 原创 收录于专栏 【洛谷算法题】 文章目录 【洛谷算法题】P5713-洛谷团队系统【入门2分支结构】🌏题目描述🌏输入格…...
2024/4/24 9:58:43 - 【ES6.0】- 扩展运算符(...)
【ES6.0】- 扩展运算符... 文章目录 【ES6.0】- 扩展运算符...一、概述二、拷贝数组对象三、合并操作四、参数传递五、数组去重六、字符串转字符数组七、NodeList转数组八、解构变量九、打印日志十、总结 一、概述 **扩展运算符(...)**允许一个表达式在期望多个参数࿰…...
2024/4/24 11:04:19 - 摩根看好的前智能硬件头部品牌双11交易数据极度异常!——是模式创新还是饮鸩止渴?
文 | 螳螂观察 作者 | 李燃 双11狂欢已落下帷幕,各大品牌纷纷晒出优异的成绩单,摩根士丹利投资的智能硬件头部品牌凯迪仕也不例外。然而有爆料称,在自媒体平台发布霸榜各大榜单喜讯的凯迪仕智能锁,多个平台数据都表现出极度异常…...
2024/4/24 11:04:19 - Go语言常用命令详解(二)
文章目录 前言常用命令go bug示例参数说明 go doc示例参数说明 go env示例 go fix示例 go fmt示例 go generate示例 总结写在最后 前言 接着上一篇继续介绍Go语言的常用命令 常用命令 以下是一些常用的Go命令,这些命令可以帮助您在Go开发中进行编译、测试、运行和…...
2024/4/24 11:04:18 - 用欧拉路径判断图同构推出reverse合法性:1116T4
http://cplusoj.com/d/senior/p/SS231116D 假设我们要把 a a a 变成 b b b,我们在 a i a_i ai 和 a i 1 a_{i1} ai1 之间连边, b b b 同理,则 a a a 能变成 b b b 的充要条件是两图 A , B A,B A,B 同构。 必要性显然࿰…...
2024/4/24 11:04:18 - 【NGINX--1】基础知识
1、在 Debian/Ubuntu 上安装 NGINX 在 Debian 或 Ubuntu 机器上安装 NGINX 开源版。 更新已配置源的软件包信息,并安装一些有助于配置官方 NGINX 软件包仓库的软件包: apt-get update apt install -y curl gnupg2 ca-certificates lsb-release debian-…...
2024/4/24 11:04:17 - Hive默认分割符、存储格式与数据压缩
目录 1、Hive默认分割符2、Hive存储格式3、Hive数据压缩 1、Hive默认分割符 Hive创建表时指定的行受限(ROW FORMAT)配置标准HQL为: ... ROW FORMAT DELIMITED FIELDS TERMINATED BY \u0001 COLLECTION ITEMS TERMINATED BY , MAP KEYS TERMI…...
2024/4/25 3:28:56 - 【论文阅读】MAG:一种用于航天器遥测数据中有效异常检测的新方法
文章目录 摘要1 引言2 问题描述3 拟议框架4 所提出方法的细节A.数据预处理B.变量相关分析C.MAG模型D.异常分数 5 实验A.数据集和性能指标B.实验设置与平台C.结果和比较 6 结论 摘要 异常检测是保证航天器稳定性的关键。在航天器运行过程中,传感器和控制器产生大量周…...
2024/4/25 3:39:58 - --max-old-space-size=8192报错
vue项目运行时,如果经常运行慢,崩溃停止服务,报如下错误 FATAL ERROR: CALL_AND_RETRY_LAST Allocation failed - JavaScript heap out of memory 因为在 Node 中,通过JavaScript使用内存时只能使用部分内存(64位系统&…...
2024/4/24 11:04:13 - 基于深度学习的恶意软件检测
恶意软件是指恶意软件犯罪者用来感染个人计算机或整个组织的网络的软件。 它利用目标系统漏洞,例如可以被劫持的合法软件(例如浏览器或 Web 应用程序插件)中的错误。 恶意软件渗透可能会造成灾难性的后果,包括数据被盗、勒索或网…...
2024/4/24 11:04:13 - JS原型对象prototype
让我简单的为大家介绍一下原型对象prototype吧! 使用原型实现方法共享 1.构造函数通过原型分配的函数是所有对象所 共享的。 2.JavaScript 规定,每一个构造函数都有一个 prototype 属性,指向另一个对象,所以我们也称为原型对象…...
2024/4/24 11:04:13 - C++中只能有一个实例的单例类
C中只能有一个实例的单例类 前面讨论的 President 类很不错,但存在一个缺陷:无法禁止通过实例化多个对象来创建多名总统: President One, Two, Three; 由于复制构造函数是私有的,其中每个对象都是不可复制的,但您的目…...
2024/4/24 9:54:49 - python django 小程序图书借阅源码
开发工具: PyCharm,mysql5.7,微信开发者工具 技术说明: python django html 小程序 功能介绍: 用户端: 登录注册(含授权登录) 首页显示搜索图书,轮播图࿰…...
2024/4/24 10:43:15 - 电子学会C/C++编程等级考试2022年03月(一级)真题解析
C/C++等级考试(1~8级)全部真题・点这里 第1题:双精度浮点数的输入输出 输入一个双精度浮点数,保留8位小数,输出这个浮点数。 时间限制:1000 内存限制:65536输入 只有一行,一个双精度浮点数。输出 一行,保留8位小数的浮点数。样例输入 3.1415926535798932样例输出 3.1…...
2024/4/25 1:03:22 - 配置失败还原请勿关闭计算机,电脑开机屏幕上面显示,配置失败还原更改 请勿关闭计算机 开不了机 这个问题怎么办...
解析如下:1、长按电脑电源键直至关机,然后再按一次电源健重启电脑,按F8健进入安全模式2、安全模式下进入Windows系统桌面后,按住“winR”打开运行窗口,输入“services.msc”打开服务设置3、在服务界面,选中…...
2022/11/19 21:17:18 - 错误使用 reshape要执行 RESHAPE,请勿更改元素数目。
%读入6幅图像(每一幅图像的大小是564*564) f1 imread(WashingtonDC_Band1_564.tif); subplot(3,2,1),imshow(f1); f2 imread(WashingtonDC_Band2_564.tif); subplot(3,2,2),imshow(f2); f3 imread(WashingtonDC_Band3_564.tif); subplot(3,2,3),imsho…...
2022/11/19 21:17:16 - 配置 已完成 请勿关闭计算机,win7系统关机提示“配置Windows Update已完成30%请勿关闭计算机...
win7系统关机提示“配置Windows Update已完成30%请勿关闭计算机”问题的解决方法在win7系统关机时如果有升级系统的或者其他需要会直接进入一个 等待界面,在等待界面中我们需要等待操作结束才能关机,虽然这比较麻烦,但是对系统进行配置和升级…...
2022/11/19 21:17:15 - 台式电脑显示配置100%请勿关闭计算机,“准备配置windows 请勿关闭计算机”的解决方法...
有不少用户在重装Win7系统或更新系统后会遇到“准备配置windows,请勿关闭计算机”的提示,要过很久才能进入系统,有的用户甚至几个小时也无法进入,下面就教大家这个问题的解决方法。第一种方法:我们首先在左下角的“开始…...
2022/11/19 21:17:14 - win7 正在配置 请勿关闭计算机,怎么办Win7开机显示正在配置Windows Update请勿关机...
置信有很多用户都跟小编一样遇到过这样的问题,电脑时发现开机屏幕显现“正在配置Windows Update,请勿关机”(如下图所示),而且还需求等大约5分钟才干进入系统。这是怎样回事呢?一切都是正常操作的,为什么开时机呈现“正…...
2022/11/19 21:17:13 - 准备配置windows 请勿关闭计算机 蓝屏,Win7开机总是出现提示“配置Windows请勿关机”...
Win7系统开机启动时总是出现“配置Windows请勿关机”的提示,没过几秒后电脑自动重启,每次开机都这样无法进入系统,此时碰到这种现象的用户就可以使用以下5种方法解决问题。方法一:开机按下F8,在出现的Windows高级启动选…...
2022/11/19 21:17:12 - 准备windows请勿关闭计算机要多久,windows10系统提示正在准备windows请勿关闭计算机怎么办...
有不少windows10系统用户反映说碰到这样一个情况,就是电脑提示正在准备windows请勿关闭计算机,碰到这样的问题该怎么解决呢,现在小编就给大家分享一下windows10系统提示正在准备windows请勿关闭计算机的具体第一种方法:1、2、依次…...
2022/11/19 21:17:11 - 配置 已完成 请勿关闭计算机,win7系统关机提示“配置Windows Update已完成30%请勿关闭计算机”的解决方法...
今天和大家分享一下win7系统重装了Win7旗舰版系统后,每次关机的时候桌面上都会显示一个“配置Windows Update的界面,提示请勿关闭计算机”,每次停留好几分钟才能正常关机,导致什么情况引起的呢?出现配置Windows Update…...
2022/11/19 21:17:10 - 电脑桌面一直是清理请关闭计算机,windows7一直卡在清理 请勿关闭计算机-win7清理请勿关机,win7配置更新35%不动...
只能是等着,别无他法。说是卡着如果你看硬盘灯应该在读写。如果从 Win 10 无法正常回滚,只能是考虑备份数据后重装系统了。解决来方案一:管理员运行cmd:net stop WuAuServcd %windir%ren SoftwareDistribution SDoldnet start WuA…...
2022/11/19 21:17:09 - 计算机配置更新不起,电脑提示“配置Windows Update请勿关闭计算机”怎么办?
原标题:电脑提示“配置Windows Update请勿关闭计算机”怎么办?win7系统中在开机与关闭的时候总是显示“配置windows update请勿关闭计算机”相信有不少朋友都曾遇到过一次两次还能忍但经常遇到就叫人感到心烦了遇到这种问题怎么办呢?一般的方…...
2022/11/19 21:17:08 - 计算机正在配置无法关机,关机提示 windows7 正在配置windows 请勿关闭计算机 ,然后等了一晚上也没有关掉。现在电脑无法正常关机...
关机提示 windows7 正在配置windows 请勿关闭计算机 ,然后等了一晚上也没有关掉。现在电脑无法正常关机以下文字资料是由(历史新知网www.lishixinzhi.com)小编为大家搜集整理后发布的内容,让我们赶快一起来看一下吧!关机提示 windows7 正在配…...
2022/11/19 21:17:05 - 钉钉提示请勿通过开发者调试模式_钉钉请勿通过开发者调试模式是真的吗好不好用...
钉钉请勿通过开发者调试模式是真的吗好不好用 更新时间:2020-04-20 22:24:19 浏览次数:729次 区域: 南阳 > 卧龙 列举网提醒您:为保障您的权益,请不要提前支付任何费用! 虚拟位置外设器!!轨迹模拟&虚拟位置外设神器 专业用于:钉钉,外勤365,红圈通,企业微信和…...
2022/11/19 21:17:05 - 配置失败还原请勿关闭计算机怎么办,win7系统出现“配置windows update失败 还原更改 请勿关闭计算机”,长时间没反应,无法进入系统的解决方案...
前几天班里有位学生电脑(windows 7系统)出问题了,具体表现是开机时一直停留在“配置windows update失败 还原更改 请勿关闭计算机”这个界面,长时间没反应,无法进入系统。这个问题原来帮其他同学也解决过,网上搜了不少资料&#x…...
2022/11/19 21:17:04 - 一个电脑无法关闭计算机你应该怎么办,电脑显示“清理请勿关闭计算机”怎么办?...
本文为你提供了3个有效解决电脑显示“清理请勿关闭计算机”问题的方法,并在最后教给你1种保护系统安全的好方法,一起来看看!电脑出现“清理请勿关闭计算机”在Windows 7(SP1)和Windows Server 2008 R2 SP1中,添加了1个新功能在“磁…...
2022/11/19 21:17:03 - 请勿关闭计算机还原更改要多久,电脑显示:配置windows更新失败,正在还原更改,请勿关闭计算机怎么办...
许多用户在长期不使用电脑的时候,开启电脑发现电脑显示:配置windows更新失败,正在还原更改,请勿关闭计算机。。.这要怎么办呢?下面小编就带着大家一起看看吧!如果能够正常进入系统,建议您暂时移…...
2022/11/19 21:17:02 - 还原更改请勿关闭计算机 要多久,配置windows update失败 还原更改 请勿关闭计算机,电脑开机后一直显示以...
配置windows update失败 还原更改 请勿关闭计算机,电脑开机后一直显示以以下文字资料是由(历史新知网www.lishixinzhi.com)小编为大家搜集整理后发布的内容,让我们赶快一起来看一下吧!配置windows update失败 还原更改 请勿关闭计算机&#x…...
2022/11/19 21:17:01 - 电脑配置中请勿关闭计算机怎么办,准备配置windows请勿关闭计算机一直显示怎么办【图解】...
不知道大家有没有遇到过这样的一个问题,就是我们的win7系统在关机的时候,总是喜欢显示“准备配置windows,请勿关机”这样的一个页面,没有什么大碍,但是如果一直等着的话就要两个小时甚至更久都关不了机,非常…...
2022/11/19 21:17:00 - 正在准备配置请勿关闭计算机,正在准备配置windows请勿关闭计算机时间长了解决教程...
当电脑出现正在准备配置windows请勿关闭计算机时,一般是您正对windows进行升级,但是这个要是长时间没有反应,我们不能再傻等下去了。可能是电脑出了别的问题了,来看看教程的说法。正在准备配置windows请勿关闭计算机时间长了方法一…...
2022/11/19 21:16:59 - 配置失败还原请勿关闭计算机,配置Windows Update失败,还原更改请勿关闭计算机...
我们使用电脑的过程中有时会遇到这种情况,当我们打开电脑之后,发现一直停留在一个界面:“配置Windows Update失败,还原更改请勿关闭计算机”,等了许久还是无法进入系统。如果我们遇到此类问题应该如何解决呢࿰…...
2022/11/19 21:16:58 - 如何在iPhone上关闭“请勿打扰”
Apple’s “Do Not Disturb While Driving” is a potentially lifesaving iPhone feature, but it doesn’t always turn on automatically at the appropriate time. For example, you might be a passenger in a moving car, but your iPhone may think you’re the one dri…...
2022/11/19 21:16:57