搜尋
首頁資料庫mysql教程中小型企业可参考的类MySQL双主架构方案_MySQL

在企业中,一般系统架构的瓶颈会出现在数据库这一部分,mysql主从架构在很大程度上解决了这部分瓶颈,但是在mysql主从同步的架构也存在很多问题;比如:1. 关于数据写入部分(也就是主库)往往很难做到扩展,虽然很多大公司在逻辑业务方面就进行对数据的拆分,比如商品库存按照区域去拆分(一个区域走一个库存也就是一个主库,然后定时同步总的库存),按照商品类型去划分(一个类型的商品走一套数据库),但是这对于很多中小型公司来说实现起来还是比较困难的; 2. 主从同步一般都是一个主库,一旦主库出现问题,就有可能直接导致整个主从同步架构崩盘,虽然发现后也是可以慢慢恢复的,但是这个恢复时间对于很多公司来说是难以接受的,今天的这篇博文就是主要给解决主库单点故障这个问题提供一个思路:

主要思路是:

1.一台主库(我们称之为master-01)提供服务,只负责数据的写入;

2.拿出一台数据库服务器(我们称之为Master-02)资源做master-01主库的从库(之间做主从同步);

3.两台主库之间做高可用,可以采用keepalived等方案(一定要保证master-01同时也要作为keepalived的主)

4.程序在调用主库IP地址的地方写为高可用的VIP地址;

5.所有提供服务的从服务器与master-02进行主从同步;

6.建议采用高可用策略的时候,当master-01出现问题切换到master-02的时候,即使master-01恢复了,也不要让它去自动承接VIP地址,否则可能造成数据的混写;

这样做可以在一定程度上保证主库的高可用,在一台主库down掉之后,可以在极短的时间内切换到另一台主库上(尽可能减少主库宕机对业务造成的影响),减少了主从同步给线上主库带来的压力;但是也有几个不足的地方:比如master-02可能会一直处于空闲状态(其实完全可以让它承担一部分从库的角色来负责一部分查询请求的),2. 这样真正提供服务的从库要等master-02先同步完了数据后才能去master-02上去同步数据,这样可能会造成一定程度的同步延迟时间的加长;3. 如果master-01一旦恢复正常,会不会导致数据写入混乱(这个可以在keepalived中设置响应的规则,让其不”夺权”,我们认为的去调整操作即可

架构的简易图如下:

wKiom1NFKNvDUb10AADdD6vme7s011.jpg

具体实施方案:

1. 在所有需要提供服务的服务器上安装MySQL服务(建议源码安装)

1.1 yum安装依赖包

<ol class="dp-sql"><li class="alt"><span><span>yum -y install cmake make gcc gcc-c++  ncurses-devel bison openssl-devel </span></span></li></ol>

1.2 添加MySQL所需要的用户/组

<ol class="dp-sql">
<li class="alt"><span><span>groupadd mysql   </span></span></li>
<li><span>useradd -g mysql -r mysql </span></li>
</ol>

1.3 下载MySQL源码包

<ol class="dp-sql"><li class="alt"><span><span>wget http://dev.mysql.com/get/Downloads/MySQL-5.5/mysql-5.5.36.tar.gz  </span></span></li></ol>

1.4 创建MySQL安装所需要的目录

<ol class="dp-sql"><li class="alt">
<span>mkdir /data/mydata/{data</span>,<span>tmp</span>,<span>logs} –pv  </span>
</li></ol>

1.5 解压编译安装MySQL

<ol class="dp-sql">
<li class="alt"><span><span>tar xf mysql-5.5.36.tar.gz   </span></span></li>
<li><span>cd mysql-5.5.36   </span></li>
<li class="alt">
<span>cmake . -DCMAKE_INSTALL_PREFIX=/usr/</span><span class="keyword">local</span><span>/mysql \   </span>
</li>
<li><span>      -DMYSQL_DATADIR=/data/mydata/data \   </span></li>
<li class="alt"><span>      -DSYSCINFDIR=/etc \   </span></li>
<li><span>      -DWITH_INNOBASE_STORAGE_ENGINE=1 \   </span></li>
<li class="alt"><span>      -DWITH_ARCHIVE_STORAGE_ENGINE=1 \   </span></li>
<li><span>      -DWITH_BLACKHOLE_STORAGE_ENGINE=1 \   </span></li>
<li class="alt"><span>      -DWITH_READLINE=1 \   </span></li>
<li><span>      -DWITH_SSL=system \   </span></li>
<li class="alt"><span>      -DWITH_ZLIB=system \   </span></li>
<li><span>      -DWITH_LIBWARP=0 \   </span></li>
<li class="alt"><span>      -DWITH_UNIX_ADDR=/tmp/mysql.sock \   </span></li>
<li><span>      -DDEFAULT_CHARASET=uft8 \   </span></li>
<li class="alt"><span>      -DDEFAULT_COLLATTON=utf9_general_ci \   </span></li>
<li><span>make && make install </span></li>
</ol>

1.6 为MySQL提供启动脚本

<ol class="dp-sql"><li class="alt"><span><span>cp support-files/mysql.server /etc/rc.d/init.d/mysqld  </span></span></li></ol>

1.7 为master-01主库提供配置文件(32G内存较为保守(满连接占用25G左右内存)的配置文件)

<ol class="dp-c">
<li class="alt"><span><span>[client]   </span></span></li>
<li><span>port = 3306   </span></li>
<li class="alt">
<span>socket = /</span><span class="keyword">var</span><span>/lib/mysql/mysql.sock   </span>
</li>
<li>
<span class="keyword">default</span><span>-character-set = utf-8   </span>
</li>
<li class="alt"><span>[mysqld]   </span></li>
<li><span>server-id = 1   </span></li>
<li class="alt"><span>port = 3306   </span></li>
<li><span>user = mysql   </span></li>
<li class="alt"><span>basedir = /usr/local/mysql  </span></li>
<li><span>datadir = /data/mydata/data  </span></li>
<li class="alt"><span>tmpdir = /data/mydata/tmp  </span></li>
<li>
<span>socket = /</span><span class="keyword">var</span><span>/lib/mysql/mysql.sock   </span>
</li>
<li class="alt"><span>skip-external-locking   </span></li>
<li><span>skip-name-resolve   </span></li>
<li class="alt">
<span class="keyword">default</span><span>-storage-engine = INNODB   </span>
</li>
<li><span>character-set-server = utf8   </span></li>
<li class="alt"><span>wait-timeout = 100   </span></li>
<li><span>connect_timeout = 20   </span></li>
<li class="alt"><span>interactive_timeout = 100   </span></li>
<li><span>back_log = 300   </span></li>
<li class="alt"><span>myisam_recover   </span></li>
<li><span>event_scheduler = on   </span></li>
<li class="alt"><span>log-bin=/data/mydata/logs/mysql-bin  </span></li>
<li><span>binlog_format = row   </span></li>
<li class="alt"><span>max_binlog_size = 64M   </span></li>
<li><span>binlog_cache_size = 1M   </span></li>
<li class="alt"><span>slave-net-timeout = 10   </span></li>
<li><span>skip-slave-start   </span></li>
<li class="alt"><span>slow_query_log  = 1   </span></li>
<li><span>long_query_time = 1   </span></li>
<li class="alt"><span>slow_query_log_file = /data/mydata/mysqllog/logs/mysql.slow   </span></li>
<li><span>log-error = /data/mydata/mysqllog/logs/error.log   </span></li>
<li class="alt"><span>max_connections = 1000   </span></li>
<li><span>max_user_connections = 1000   </span></li>
<li class="alt"><span>max_connect_errors = 10000   </span></li>
<li>
<span>key_buffer_size = 32M     #以MyISAM为主的服务器</span>,<span>要调大此值   </span>
</li>
<li class="alt"><span>max_allowed_packet = 64M   </span></li>
<li><span>table_cache = 4096   </span></li>
<li class="alt"><span>table_open_cache = 4096   </span></li>
<li><span>table_definition_cache = 4096   </span></li>
<li class="alt"><span>sort_buffer_size = 512K          </span></li>
<li><span>read_buffer_size = 512K          </span></li>
<li class="alt"><span>read_rnd_buffer_size = 512K      </span></li>
<li><span>join_buffer_size = 512K          </span></li>
<li class="alt"><span>tmp_table_size = 64M         </span></li>
<li><span>max_heap_table_size = 64M      </span></li>
<li class="alt"><span>query_cache_type = 0   </span></li>
<li><span>query_cache_size = 0   </span></li>
<li class="alt"><span>bulk_insert_buffer_size = 16M   </span></li>
<li><span>thread_cache_size = 64   </span></li>
<li class="alt"><span>thread_concurrency = 16       #CPU核数*2   </span></li>
<li><span>thread_stack = 256K   </span></li>
<li class="alt"><span>innodb_data_home_dir = /data/mydata/data  </span></li>
<li><span>innodb_log_group_home_dir = /data/mydata/mysqllog/logs  </span></li>
<li class="alt"><span>innodb_data_file_path = ibdata1:1G:autoextend   </span></li>
<li><span>innodb_buffer_pool_size = 16G   </span></li>
<li class="alt"><span>innodb_buffer_pool_instances = 4                  </span></li>
<li><span>innodb_additional_mem_pool_size = 16M   </span></li>
<li class="alt"><span>innodb_log_file_size = 512M   </span></li>
<li><span>innodb_log_buffer_size = 32M   </span></li>
<li class="alt"><span>innodb_log_files_in_group = 3   </span></li>
<li><span>innodb_flush_log_at_trx_commit = 2   </span></li>
<li class="alt"><span>innodb_lock_wait_timeout = 10   </span></li>
<li><span>innodb_sync_spin_loops = 40   </span></li>
<li class="alt"><span>innodb_max_dirty_pages_pct = 90   </span></li>
<li><span>innodb_support_xa = 1   </span></li>
<li class="alt"><span>innodb_thread_concurrency = 0   </span></li>
<li><span>innodb_thread_sleep_delay = 500   </span></li>
<li class="alt"><span>innodb_file_io_threads = 4   </span></li>
<li><span>innodb_concurrency_tickets = 1000   </span></li>
<li class="alt"><span>log_bin_trust_function_creators = 1   </span></li>
<li><span>innodb_flush_method = O_DIRECT    </span></li>
<li class="alt"><span>innodb_file_per_table          #是否采用单表单空间   </span></li>
<li><span>innodb_write_io_threads = 8     </span></li>
<li class="alt"><span>innodb_read_io_threads = 8   </span></li>
<li><span>innodb_io_capacity = 1000   </span></li>
<li class="alt">
<span>innodb_file_format = Barracuda    #不开启单表单空间</span>,<span>此选项无效   </span>
</li>
<li><span>innodb_purge_threads = 1   </span></li>
<li class="alt"><span>innodb_purge_batch_size = 32   </span></li>
<li><span>innodb_old_blocks_pct = 75   </span></li>
<li class="alt"><span>innodb_change_buffering = all   </span></li>
<li><span>transaction_isolation = READ-COMMITTED   </span></li>
<li class="alt"><span>[mysqldump]   </span></li>
<li><span>quick   </span></li>
<li class="alt"><span>max_allowed_packet = 32M   </span></li>
<li><span>[mysql]   </span></li>
<li class="alt"><span>no-auto-rehash   </span></li>
<li><span>[myisamchk]   </span></li>
<li class="alt"><span>key_buffer_size = 64M   </span></li>
<li><span>sort_buffer_size = 256M   </span></li>
<li class="alt"><span>read_buffer = 2M   </span></li>
<li><span>write_buffer = 2M   </span></li>
<li class="alt"><span>[mysqlhotcopy]   </span></li>
<li><span>interactive-timeout   </span></li>
<li class="alt"><span>[mysqld_safe]   </span></li>
<li><span>open-files-limit = 10240 </span></li>
</ol>

1.8 为master-02提供配置文件

<ol class="dp-sql">
<li class="alt"><span><span>master-02的配置文件仅需在master-01上稍作修改   </span></span></li>
<li><span>server-id = 20   </span></li>
<li class="alt">
<span>log_slave_updates = 1    #添加(将复制事件写入binlog</span>,<span>一台服务器既做主库又做从库此选项必须要开启)   </span>
</li>
<li><span>replicate-same-server-id=0 #添加(防止MySQL循环更新)   </span></li>
<li class="alt"><span>relay_log_recovery = 1   #添加(MySQLrelay_log的自动修复功能) </span></li>
</ol>

1.9 为从库提供配置文件(8G)

<ol class="dp-sql">
<li class="alt"><span><span>[client]   </span></span></li>
<li><span>port = 3306   </span></li>
<li class="alt"><span>socket = /var/lib/mysql/mysql.sock   </span></li>
<li>
<span class="keyword">default</span><span>-</span><span class="keyword">character</span><span>-</span><span class="keyword">set</span><span> = utf8   </span>
</li>
<li class="alt"><span>[mysqld]   </span></li>
<li><span>server-id = 2   </span></li>
<li class="alt"><span>port = 3306   </span></li>
<li>
<span class="func">user</span><span> = mysql   </span>
</li>
<li class="alt">
<span>basedir = /usr/</span><span class="keyword">local</span><span>/mysql  </span>
</li>
<li><span>datadir = /data/mydata/data  </span></li>
<li class="alt"><span>tmpdir  = /data/mydata/tmp  </span></li>
<li><span>socket  = /var/lib/mysql/mysql.sock   </span></li>
<li class="alt"><span>skip-external-locking   </span></li>
<li>
<span>skip-</span><span class="keyword">name</span><span>-resolve   </span>
</li>
<li class="alt">
<span class="keyword">default</span><span>-storage-engine = INNODB   </span>
</li>
<li>
<span class="keyword">character</span><span>-</span><span class="keyword">set</span><span>-server = utf8   </span>
</li>
<li class="alt"><span>wait-timeout = 100   </span></li>
<li><span>connect_timeout = 20   </span></li>
<li class="alt"><span>interactive_timeout = 100   </span></li>
<li><span>back_log = 300   </span></li>
<li class="alt"><span>myisam_recover   </span></li>
<li>
<span>event_scheduler = </span><span class="keyword">on</span><span>   </span>
</li>
<li class="alt"><span>log-bin=/data/mydata/logs/mysql-bin  </span></li>
<li><span>binlog_format = row   </span></li>
<li class="alt"><span>max_binlog_size = 64M   </span></li>
<li><span>binlog_cache_size = 1M   </span></li>
<li class="alt"><span>slave-net-timeout = 10   </span></li>
<li><span>relay_log_recovery = 1   </span></li>
<li class="alt"><span>slow_query_log = 1   </span></li>
<li><span>long_query_time = 1   </span></li>
<li class="alt"><span>slow_query_log_file = /data/mydata/mysqllog/logs/mysql.slow   </span></li>
<li><span>log-error = /data/mydata/mysqllog/logs/error.log   </span></li>
<li class="alt"><span>max_connections = 500   </span></li>
<li><span>max_user_connections = 500   </span></li>
<li class="alt"><span>max_connect_errors = 10000   </span></li>
<li>
<span>key_buffer_size = 32M     #以MyISAM为主的服务器</span>,<span>要调大此值   </span>
</li>
<li class="alt"><span>max_allowed_packet = 64M   </span></li>
<li><span>table_cache = 2048   </span></li>
<li class="alt"><span>table_open_cache = 2048   </span></li>
<li><span>table_definition_cache = 2048   </span></li>
<li class="alt"><span>sort_buffer_size = 128K          </span></li>
<li><span>read_buffer_size = 128K          </span></li>
<li class="alt"><span>read_rnd_buffer_size = 128K      </span></li>
<li><span>join_buffer_size = 128K          </span></li>
<li class="alt"><span>tmp_table_size = 16M         </span></li>
<li><span>max_heap_table_size = 16M      </span></li>
<li class="alt"><span>query_cache_type = 0   </span></li>
<li><span>query_cache_size = 0   </span></li>
<li class="alt"><span>bulk_insert_buffer_size = 16M   </span></li>
<li><span>thread_cache_size = 64   </span></li>
<li class="alt"><span>thread_concurrency = 4       #CPU核数*2   </span></li>
<li><span>thread_stack = 128K   </span></li>
<li class="alt"><span>innodb_data_home_dir = /data/mydata/data  </span></li>
<li><span>innodb_log_group_home_dir = /data/mydata/mysqllog/logs  </span></li>
<li class="alt"><span>innodb_data_file_path = ibdata1:1G:autoextend   </span></li>
<li><span>innodb_buffer_pool_size = 2G   </span></li>
<li class="alt"><span>innodb_buffer_pool_instances = 4                  </span></li>
<li><span>innodb_additional_mem_pool_size = 4M   </span></li>
<li class="alt"><span>innodb_log_file_size = 512M   </span></li>
<li><span>innodb_log_buffer_size = 16M   </span></li>
<li class="alt"><span>innodb_log_files_in_group = 3   </span></li>
<li><span>innodb_flush_log_at_trx_commit = 2   </span></li>
<li class="alt"><span>innodb_lock_wait_timeout = 10   </span></li>
<li><span>innodb_sync_spin_loops = 40   </span></li>
<li class="alt"><span>innodb_max_dirty_pages_pct = 90   </span></li>
<li><span>innodb_support_xa = 1   </span></li>
<li class="alt"><span>innodb_thread_concurrency = 0   </span></li>
<li><span>innodb_thread_sleep_delay = 500   </span></li>
<li class="alt"><span>innodb_file_io_threads = 4   </span></li>
<li><span>innodb_concurrency_tickets = 1000   </span></li>
<li class="alt"><span>log_bin_trust_function_creators = 1   </span></li>
<li><span>innodb_flush_method = O_DIRECT       </span></li>
<li class="alt"><span>innodb_file_per_table                #是否采用单表单空间   </span></li>
<li><span>innodb_write_io_threads = 8     </span></li>
<li class="alt"><span>innodb_read_io_threads = 8   </span></li>
<li><span>innodb_io_capacity = 1000   </span></li>
<li class="alt">
<span>innodb_file_format = Barracuda     #不开启单表单空间</span>,<span>此选项无效   </span>
</li>
<li><span>innodb_purge_threads = 1   </span></li>
<li class="alt"><span>innodb_purge_batch_size = 32   </span></li>
<li><span>innodb_old_blocks_pct = 75   </span></li>
<li class="alt">
<span>innodb_change_buffering = </span><span class="op">all</span><span>   </span>
</li>
<li>
<span>transaction_isolation = </span><span class="keyword">READ</span><span>-</span><span class="keyword">COMMITTED</span><span>   </span>
</li>
<li class="alt"><span>[mysqldump]   </span></li>
<li><span>quick   </span></li>
<li class="alt"><span>max_allowed_packet = 32M   </span></li>
<li><span>[mysql]   </span></li>
<li class="alt">
<span class="keyword">no</span><span>-auto-rehash   </span>
</li>
<li><span>[myisamchk]   </span></li>
<li class="alt"><span>key_buffer_size = 64M   </span></li>
<li><span>sort_buffer_size = 256M   </span></li>
<li class="alt"><span>read_buffer = 2M   </span></li>
<li><span>write_buffer = 2M   </span></li>
<li class="alt"><span>[mysqlhotcopy]   </span></li>
<li><span>interactive-timeout   </span></li>
<li class="alt"><span>[mysqld_safe]   </span></li>
<li>
<span class="keyword">open</span><span>-files-limit = 10240 </span>
</li>
</ol>

1.10 初始化MySQL

<ol class="dp-xml"><li class="alt"><span><span>/usr/local/mysql/scripts/mysql_install_db </span><span class="attribute">--user</span><span>=</span><span class="attribute-value">mysql</span><span> </span><span class="attribute">--datadir</span><span>=/data/mydata/data/ </span><span class="attribute">--basedir</span><span>=/usr/local/mysql  </span></span></li></ol>

1.11 为启动脚本赋予可执行权限并启动MySQL

<ol class="dp-xml">
<li class="alt"><span><span>chmod +x /etc/rc.d/init.d/mysqld  </span></span></li>
<li><span>/etc/init.d/mysqld start </span></li>
</ol>

2. 配置master-01

2.1 添加主从同步账户

<ol class="dp-xml">
<li class="alt">mysql> grant replication slave on *.* to 'repl'@'192.168.237.%' idetified by '123456';   </li>
<li>
<span>mysql</span><span class="tag">></span><span> flush privileges</span>;<span> </span>
</li>
</ol>

2.2 查看主库的状态

<ol class="dp-xml">
<li class="alt">mysql> show master status;   </li>
<li><span>+------------------+----------+--------------+------------------+   </span></li>
<li class="alt"><span>| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB |   </span></li>
<li><span>+------------------+----------+--------------+------------------+   </span></li>
<li class="alt"><span>| mysql-bin.000009 |      652 |              |                  |   </span></li>
<li><span>+------------------+----------+--------------+------------------+   </span></li>
<li class="alt"><span>1 row in set (0.01 sec) </span></li>
</ol>

2.3 因为这是测试环境,可以保证没数据写入,否则需要先锁表-->查看状态-->备份数据-->查看状态(保证没变)-->解锁表

3. 配置master-02

3.1 配置master-02为master-01的从

<ol class="dp-xml">
<li class="alt"><span><span>#若是线上有数据需要先导入数据   </span></span></li>
<li>
<span>mysql</span><span class="tag">></span><span> CHANGE MASTER TO   </span>
</li>
<li class="alt">
<span>  -</span><span class="tag">></span><span> </span><span class="attribute">MASTER_HOST</span><span>=</span><span class="attribute-value">'192.168.237.128'</span>,<span>   </span>
</li>
<li>
<span>  -</span><span class="tag">></span><span> </span><span class="attribute">MASTER_PORT</span><span>=</span><span class="attribute-value">3306</span>,<span>   </span>
</li>
<li class="alt">
<span>  -</span><span class="tag">></span><span> </span><span class="attribute">MASTER_USER</span><span>=</span><span class="attribute-value">'repl'</span>,<span>   </span>
</li>
<li>
<span>  -</span><span class="tag">></span><span> </span><span class="attribute">MASTER_PASSWORD</span><span>=</span><span class="attribute-value">'123456'</span>,<span>   </span>
</li>
<li class="alt">
<span>  -</span><span class="tag">></span><span> </span><span class="attribute">MASTER_LOG_FILE</span><span>=</span><span class="attribute-value">'mysql-bin.000009'</span>,<span>   </span>
</li>
<li>
<span>  -</span><span class="tag">></span><span> </span><span class="attribute">MASTER_LOG_POS</span><span>=</span><span class="attribute-value">652</span>;<span>   </span>
</li>
<li class="alt">
<span>Query OK</span>,<span> 0 rows affected (0.03 sec)   </span>
</li>
<li>
<span>mysql</span><span class="tag">></span><span> start slave</span>;<span>   </span>
</li>
<li class="alt">
<span>mysql</span><span class="tag">></span><span> show slave status \G   </span>
</li>
<li><span>   Slave_IO_Running: Yes   #确保为yes   </span></li>
<li class="alt"><span>   Slave_SQL_Running: Yes  #确保为yes </span></li>
</ol>

3.2 配置master-02的同步用户

<ol class="dp-xml">
<li class="alt">mysql> grant replication slave on *.* to 'repl’@’192.168.237.%' identified by '123456';   </li>
<li>
<span>mysql</span><span class="tag">></span><span> flush privileges</span>;<span> </span>
</li>
</ol>

3.3 查看master-02的状态

<ol class="dp-xml">
<li class="alt">mysql> show master status;   </li>
<li><span>+------------------+----------+--------------+------------------+   </span></li>
<li class="alt"><span>| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB |   </span></li>
<li><span>+------------------+----------+--------------+------------------+   </span></li>
<li class="alt"><span>| mysql-bin.000004 |      689 |              |                  |   </span></li>
<li><span>+------------------+----------+--------------+------------------+   </span></li>
<li class="alt"><span>1 row in set (0.00 sec) </span></li>
</ol>

4. 从库根据上面步骤配置为master-02的从即可(为了节省篇幅不再一一赘述)

5. 在master-01上创建一个数据库测试同步效果

wKioL1NFMwnRG1VeAAGsycQhU34212.jpg

6. 去master-02跟从库上分别查看是否已经同步过数据来

wKiom1NFNErwl1pfAAEveu6pGgo065.jpg

wKioL1NFNGujZOZkAAE4ClWWOv0439.jpg

好了,至此数据同步已经完成,关于keepalived实现双主高可用,我会在下篇keepalived实现MySQL高可用总给大家写出!!!

陳述
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
深度学习架构的对比分析深度学习架构的对比分析May 17, 2023 pm 04:34 PM

深度学习的概念源于人工神经网络的研究,含有多个隐藏层的多层感知器是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示,以表征数据的类别或特征。它能够发现数据的分布式特征表示。深度学习是机器学习的一种,而机器学习是实现人工智能的必经之路。那么,各种深度学习的系统架构之间有哪些差别呢?1.全连接网络(FCN)完全连接网络(FCN)由一系列完全连接的层组成,每个层中的每个神经元都连接到另一层中的每个神经元。其主要优点是“结构不可知”,即不需要对输入做出特殊的假设。虽然这种结构不可知使得完

此「错」并非真的错:从四篇经典论文入手,理解Transformer架构图「错」在何处此「错」并非真的错:从四篇经典论文入手,理解Transformer架构图「错」在何处Jun 14, 2023 pm 01:43 PM

前段时间,一条指出谷歌大脑团队论文《AttentionIsAllYouNeed》中Transformer构架图与代码不一致的推文引发了大量的讨论。对于Sebastian的这一发现,有人认为属于无心之过,但同时也会令人感到奇怪。毕竟,考虑到Transformer论文的流行程度,这个不一致问题早就应该被提及1000次。SebastianRaschka在回答网友评论时说,「最最原始」的代码确实与架构图一致,但2017年提交的代码版本进行了修改,但同时没有更新架构图。这也是造成「不一致」讨论的根本原因。

多路径多领域通吃!谷歌AI发布多领域学习通用模型MDL多路径多领域通吃!谷歌AI发布多领域学习通用模型MDLMay 28, 2023 pm 02:12 PM

面向视觉任务(如图像分类)的深度学习模型,通常用来自单一视觉域(如自然图像或计算机生成的图像)的数据进行端到端的训练。一般情况下,一个为多个领域完成视觉任务的应用程序需要为每个单独的领域建立多个模型,分别独立训练,不同领域之间不共享数据,在推理时,每个模型将处理特定领域的输入数据。即使是面向不同领域,这些模型之间的早期层的有些特征都是相似的,所以,对这些模型进行联合训练的效率更高。这能减少延迟和功耗,降低存储每个模型参数的内存成本,这种方法被称为多领域学习(MDL)。此外,MDL模型也可以优于单

机器学习系统架构的十个要素机器学习系统架构的十个要素Apr 13, 2023 pm 11:37 PM

这是一个AI赋能的时代,而机器学习则是实现AI的一种重要技术手段。那么,是否存在一个通用的通用的机器学习系统架构呢?在老码农的认知范围内,Anything is nothing,对系统架构而言尤其如此。但是,如果适用于大多数机器学习驱动的系统或用例,构建一个可扩展的、可靠的机器学习系统架构还是可能的。从机器学习生命周期的角度来看,这个所谓的通用架构涵盖了关键的机器学习阶段,从开发机器学习模型,到部署训练系统和服务系统到生产环境。我们可以尝试从10个要素的维度来描述这样的一个机器学习系统架构。1.

SOA中的软件架构设计及软硬件解耦方法论SOA中的软件架构设计及软硬件解耦方法论Apr 08, 2023 pm 11:21 PM

​对于下一代集中式电子电器架构而言,采用central+zonal 中央计算单元与区域控制器布局已经成为各主机厂或者tier1玩家的必争选项,关于中央计算单元的架构方式,有三种方式:分离SOC、硬件隔离、软件虚拟化。集中式中央计算单元将整合自动驾驶,智能座舱和车辆控制三大域的核心业务功能,标准化的区域控制器主要有三个职责:电力分配、数据服务、区域网关。因此,中央计算单元将会集成一个高吞吐量的以太网交换机。随着整车集成化的程度越来越高,越来越多ECU的功能将会慢慢的被吸收到区域控制器当中。而平台化

2023年值得了解的几个前端格式化工具【总结】2023年值得了解的几个前端格式化工具【总结】Sep 30, 2022 pm 02:17 PM

eslint 使用eslint的生态链来规范开发者对js/ts基本语法的规范。防止团队的成员乱写. 这里主要使用到的eslint的包有以下几个: 使用的以下语句来按照依赖: 接下来需要对eslint的

AI基础设施:IT和数据科学团队协作的重要性AI基础设施:IT和数据科学团队协作的重要性May 18, 2023 pm 11:08 PM

人工智能(AI)已经改变了许多行业的游戏规则,使企业能够提高效率、决策制定和客户体验。随着人工智能的不断发展和变得越来越复杂,企业投资于合适的基础设施来支持其开发和部署至关重要。该基础设施的一个关键方面是IT和数据科学团队之间的协作,因为两者在确保人工智能计划的成功方面都发挥着关键作用。人工智能的快速发展导致对计算能力、存储和网络能力的需求不断增加。这种需求给传统IT基础架构带来了压力,而传统IT基础架构并非旨在处理AI所需的复杂和资源密集型工作负载。因此,企业现在正在寻求构建能够支持AI工作负

深析如何通过Nginx源码来实现worker进程隔离深析如何通过Nginx源码来实现worker进程隔离Nov 06, 2022 pm 04:41 PM

本文给大家介绍如何通过修改Nginx源码实现基于端口号的 Nginx worker进程隔离方案。看看到底怎么修改Nginx源码,还有Nginx事件循环、Nginx 进程模型、fork资源共享相关的知识。

See all articles

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
2 週前By尊渡假赌尊渡假赌尊渡假赌
倉庫:如何復興隊友
1 個月前By尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒險:如何獲得巨型種子
4 週前By尊渡假赌尊渡假赌尊渡假赌

熱工具

MantisBT

MantisBT

Mantis是一個易於部署的基於Web的缺陷追蹤工具,用於幫助產品缺陷追蹤。它需要PHP、MySQL和一個Web伺服器。請查看我們的演示和託管服務。

VSCode Windows 64位元 下載

VSCode Windows 64位元 下載

微軟推出的免費、功能強大的一款IDE編輯器

Dreamweaver Mac版

Dreamweaver Mac版

視覺化網頁開發工具

SublimeText3 英文版

SublimeText3 英文版

推薦:為Win版本,支援程式碼提示!

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器