对 PHP 函数和方法的评论

推荐阅读

• php 字符串比较函数 strcmp 和 strcasecmp 的使用摘要

• PHP邮箱认证登录注册功能的实现方法和步骤介绍

• PHP 日期和时间用法十一：比较两个指定日期的三种方法

• 一种结构设计模式，允许在对象中动态添加新行为。它通过创建一个封装器来实现这一目的，即把对象放入一个装饰器类中，然后把这个装饰器类放入另一个装饰器类中，以此类推，形成一个封装器链。这样，我们就可以在不改变原始对象的情况下动态添加新行为或修改原始行为。 在 Java 中，实现装饰器设计模式的步骤如下： 定义一个接口或抽象类作为被装饰对象的基类。 公共接口 Component { void operation; } } 在本例中，我们定义了一个名为 Component 的接口，该接口包含一个名为 operation 的抽象方法，该方法定义了被装饰对象的基本行为。 定义一个实现基类方法的具体装饰对象。 公共类 ConcreteComponent 实现 Component { public class ConcreteComponent implements Component { @Override public void operation { System.out.println("ConcreteComponent is doing something...") ； } } 定义一个抽象装饰器类，该类继承于基类，并将装饰对象作为一个属性。 公共抽象类装饰器实现组件 { protected Component 组件 public Decorator(Component component) { this.component = component; } } @Override public void operation { component.operation; } } } 在这个示例中，我们定义了一个名为 Decorator 的抽象类，它继承了 Component 接口，并将被装饰对象作为一个属性。在操作方法中，我们调用了被装饰对象上的同名方法。 定义一个具体的装饰器类，继承自抽象装饰器类并实现增强逻辑。 公共类 ConcreteDecoratorA extends Decorator { public ConcreteDecoratorA(Component 组件) { super(component)； } } public void operation { super.operation System.out.println("ConcreteDecoratorA 正在添加新行为......") ； } } 在本例中，我们定义了一个名为 ConcreteDecoratorA 的具体装饰器类，它继承自装饰器抽象类，并实现了操作方法的增强逻辑。在操作方法中，我们首先调用被装饰对象上的同名方法，然后添加新行为。 使用装饰器增强被装饰对象。 公共类 Main { public static void main(String args) { Component 组件 = new ConcreteComponent； component = new ConcreteDecoratorA(component)； 组件操作 } } 在这个示例中，我们首先创建了一个被装饰对象 ConcreteComponent，然后通过 ConcreteDecoratorA 类创建了一个装饰器，并将被装饰对象作为参数传递。最后，调用装饰器的操作方法，实现对被装饰对象的增强。 使用场景 在 Java 中，装饰器模式被广泛使用，尤其是在 I/O 中。Java 中的 I/O 库使用装饰器模式实现了不同数据流之间的转换和增强。 让我们打开文件 a.txt，从中读取数据。InputStream 是一个抽象类，FileInputStream 是专门用于读取文件流的子类。BufferedInputStream 是一个支持缓存的数据读取类，可以提高数据读取的效率，具体代码如下： @Test public void testIO throws Exception { InputStream inputStream = new FileInputStream("C:/bbb/a.txt")； // 实现包装 inputStream = new BufferedInputStream(inputStream)； byte bytes = new byte[1024]； int len； while((len = inputStream.read(bytes)) ！= -1){ System.out.println(new String(bytes, 0, len)); } } } } 其中 BufferedInputStream 对读取数据进行了增强。 这样看来，装饰器设计模式和代理模式似乎有点相似，接下来让我们讨论一下它们之间的区别。 第三，与代理模式的区别： 代理模式的目的是控制对对象的访问，它在对象外部提供一个代理对象来控制对原对象的访问。代理对象和原始对象通常实现相同的接口或继承相同的类，以确保两者可以相互替换。 装饰器模式的目的是动态增强对象的功能，而这是通过对象内部的包装器来实现的。在装饰器模式中，装饰器类和被装饰对象通常实现相同的接口或继承自相同的类，以确保两者可以相互替代。装饰器模式也被称为封装器模式。 在代理模式中，代理类附加了与原类无关的功能。

• 正负偏差变量 即 d2+、d2- 分别表示决策值中超出和未达到目标值的部分。而 di+、di- 均大于 0 刚性约束和目标约束（柔性目标约束有偏差） 在多目标规划中，>=/<= 在刚性约束中保持不变。当需要将约束条件转换为柔性约束条件时，需要将 >=/<= 更改为 =（因为已经有 d2+、d2- 用来表示正负偏差），并附加上 (+dii-di+) 注意这里是 +di、-di+！之所以是 +di，-di+，是因为需要将目标还原为最接近的原始刚性约束条件 优先级因素和权重因素 对多个目标进行优先排序和优先排序 目标规划的目标函数 是所有偏差变量的加权和。值得注意的是，这个加权和都取最小值。而 di+ 和 dii- 并不一定要出现在每个不同的需求层次中。具体分析需要具体问题具体分析 下面是一个例子： 题目中说设备 B 既要求充分利用，又要求尽可能不加班，那么列出的时间计量表达式即为：min z = P3 (d3- + d3 +) 使用 + 而不是 -d3 + 的原因是：正负偏差不可能同时存在，必须有 di+di=0 （因为判定值不可能同时大于目标值和小于目标值），而前面是 min，所以只要取 + 并让 di+ 和 dii- 都为正值即可。因此，得出以下规则： 最后，给出示例和相应的解法： 问题：某企业生产 A 和 B 两种产品，需要使用 A、B、C 三种设备。下表显示了与工时和设备使用限制有关的产品利润率。问该企业应如何组织生产以实现下列目标？ (1) 力争利润目标不低于 1 500 美元； (2) 考虑到市场需求，A、B 两种产品的生产比例应尽量保持在 1：2； (3）设备 A 是贵重设备，严禁超时使用； (4）设备 C 可以适当加班，但要控制；设备 B 要求充分利用，但尽量不加班。 从重要性来看，设备 B 的重要性是设备 C 的三倍。 建立相应的目标规划模型并求解。 解：设企业生产 A、B 两种产品的件数分别为 x1、x2，并建立相应的目标计划模型： 以下为顺序求解法，利用 LINGO 求解： 1 级目标： 模型。 设置。 variable/1..2/:x;! s_con_num/1...4/:g,dplus,dminus;！所需软约束数量（g=dplus=dminus 数量）及相关参数； s_con(s_con_num);！ s_con(s_con_num,variable):c;！软约束系数； 结束集 数据。 g=1500 0 16 15. c=200 300 2 -1 4 0 0 5; 结束数据 min=dminus(1);！第一个目标函数；！对应于 min=z 的第一小部分；！ 2*x(1)+2*x(2)<12;!硬约束 @for(s_con_num(i):@sum(variable(j):c(i,j)*x(j))+dminus(i)-dplus(i)=g(i)); ！使用设置完成的数据构建软约束表达式； ！ !软约束表达式 @for(variable:@gin(x)); ！将变量约束为整数； ! 结束 此时，第一级目标的最优值为 0，第一级偏差为 0： 第二级目标： !求 dminus(1)=0，然后求解第二级目标。 模型。 设置。 变量/1..2/:x;！设置：变量/1..2/:x; ！ s_con_num/1...4/:g,dplus,dminus;！软约束数量及相关参数； s_con(s_con_num(s_con_num));！ s_con(s_con_num,variable):c;! 软约束系数; s_con(s_con_num,variable):c;！ 结束集 数据。 g=1500 0 16 15; c=200 300 2 -1 4 0 0 5; 结束数据 min=dminus(2)+dplus(2);！第二个目标函数 2*x(1)+2*x(2)<12;!硬约束 @for(s_con_num(i):@sum(variable(j):c(i,j)*x(j))+dminus(i)-dplus(i)=g(i)); ！ 软约束表达式；！ dminus(1)=0; ！第一个目标结果 @for(variable:@gin(x)); ！ 结束 此时，第二个目标的最优值为 0，偏差为 0： 第三目标 !求 dminus(2)=0，然后求解第三个目标。 模型。 设置。 变量/1..2/:x;！设置：变量/1..2/:x; ！ s_con_num/1...4/:g,dplus,dminus;！软约束数量及相关参数； s_con(s_con_num(s_con_num));！ s_con(s_con_num,variable):c;! 软约束系数; s_con(s_con_num,variable):c;！ 结束集 数据。 g=1500 0 16 15; c=200 300 2 -1 4 0 0 5; 结束数据 min=3*dminus(3)+3*dplus(3)+dminus(4);！第三个目标函数。 2*x(1)+2*x(2)<12;!硬约束 @for(s_con_num(i):@sum(variable(j):c(i,j)*x(j))+dminus(i)-dplus(i)=g(i)); ！ 软约束表达式；！ dminus(1)=0; ！第一个目标约束条件； ！ dminus(2)+dplus(2)=0; ！第二个目标约束条件 @for(variable:@gin(x));！ 结束 最终结果为 x1=2，x2=4，dplus(1)=100，最优利润为

• epoll简介及触发模式（accept、read、send）-epoll的简单介绍 epoll在LT和ET模式下的读写方式   一、epoll的接口非常简单，一共就三个函数：1. int epoll_create(int size);创建一个epoll的句柄，size用来告诉内核这个监听的数目一共有多大。这个参数不同于select中的第一个参数，给出最大监听的fd+1的值。需要注意的是，当创建好epoll句柄后，它就是会占用一个fd值，在linux下如果查看/proc/进程id/fd/，是能够看到这个fd的，所以在使用完epoll后，必须调用close关闭，否则可能导致fd被耗尽。2. int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event);epoll的事件注册函数，它不同与select是在监听事件时告诉内核要监听什么类型的事件，而是在这里先注册要监听的事件类型。第一个参数是epoll_create的返回值，第二个参数表示动作，用三个宏来表示：EPOLL_CTL_ADD：注册新的fd到epfd中；EPOLL_CTL_MOD：修改已经注册的fd的监听事件；EPOLL_CTL_DEL：从epfd中删除一个fd；第三个参数是需要监听的fd，第四个参数是告诉内核需要监听什么事，struct epoll_event结构如下：struct epoll_event {  __uint32_t events;  /* Epoll events */  epoll_data_t data;  /* User data variable */};events可以是以下几个宏的集合：EPOLLIN ：表示对应的文件描述符可以读（包括对端SOCKET正常关闭）； EPOLLIN事件：EPOLLIN事件则只有当对端有数据写入时才会触发，所以触发一次后需要不断读取所有数据直到读完EAGAIN为止。否则剩下的数据只有在下次对端有写入时才能一起取出来了。现在明白为什么说epoll必须要求异步socket了吧？如果同步socket，而且要求读完所有数据，那么最终就会在堵死在阻塞里。 EPOLLOUT：表示对应的文件描述符可以写； EPOLLOUT事件：EPOLLOUT事件只有在连接时触发一次，表示可写，其他时候想要触发，那要先准备好下面条件：1.某次write，写满了发送缓冲区，返回错误码为EAGAIN。2.对端读取了一些数据，又重新可写了，此时会触发EPOLLOUT。简单地说：EPOLLOUT事件只有在不可写到可写的转变时刻，才会触发一次，所以叫边缘触发，这叫法没错的！其实，如果真的想强制触发一次，也是有办法的，直接调用epoll_ctl重新设置一下event就可以了，event跟原来的设置一模一样都行（但必须包含EPOLLOUT），关键是重新设置，就会马上触发一次EPOLLOUT事件。1. 缓冲区由满变空.2.同时注册EPOLLIN | EPOLLOUT事件，也会触发一次EPOLLOUT事件这个两个也会触发EPOLLOUT事件   EPOLLPRI：表示对应的文件描述符有紧急的数据可读（这里应该表示有带外数据到来）；EPOLLERR：表示对应的文件描述符发生错误；EPOLLHUP：表示对应的文件描述符被挂断；EPOLLET： 将EPOLL设为边缘触发(Edge Triggered)模式，这是相对于水平触发(Level Triggered)来说的。EPOLLONESHOT：只监听一次事件，当监听完这次事件之后，如果还需要继续监听这个socket的话，需要再次把这个socket加入到EPOLL队列里3. int epoll_wait(int epfd, struct epoll_event * events, int maxevents, int timeout);等待事件的产生，类似于select调用。参数events用来从内核得到事件的集合，maxevents告之内核这个events有多大，这个maxevents的值不能大于创建epoll_create时的size，参数timeout是超时时间（毫秒，0会立即返回，-1将不确定，也有说法说是永久阻塞）。该函数返回需要处理的事件数目，如返回0表示已超时。--------------------------------------------------------------------------------------------     从man手册中，得到ET和LT的具体描述如下EPOLL事件有两种模型：Edge Triggered (ET)Level Triggered (LT)假如有这样一个例子：1. 我们已经把一个用来从管道中读取数据的文件句柄(RFD)添加到epoll描述符2. 这个时候从管道的另一端被写入了2KB的数据3. 调用epoll_wait(2)，并且它会返回RFD，说明它已经准备好读取操作4. 然后我们读取了1KB的数据5. 调用epoll_wait(2)......Edge Triggered 工作模式：如果我们在第1步将RFD添加到epoll描述符的时候使用了EPOLLET标志，那么在第5步调用epoll_wait(2)之后将有可能会挂起，因为剩余的数据还存在于文件的输入缓冲区内，而且数据发出端还在等待一个针对已经发出数据的反馈信息。只有在监视的文件句柄上发生了某个事件的时候 ET 工作模式才会汇报事件。因此在第5步的时候，调用者可能会放弃等待仍在存在于文件输入缓冲区内的剩余数据。在上面的例子中，会有一个事件产生在RFD句柄上，因为在第2步执行了一个写操作，然后，事件将会在第3步被销毁。因为第4步的读取操作没有读空文件输入缓冲区内的数据，因此我们在第5步调用 epoll_wait(2)完成后，是否挂起是不确定的。epoll工作在ET模式的时候，必须使用非阻塞套接口，以避免由于一个文件句柄的阻塞读/阻塞写操作把处理多个文件描述符的任务饿死。最好以下面的方式调用ET模式的epoll接口，在后面会介绍避免可能的缺陷。   i    基于非阻塞文件句柄   ii   只有当read(2)或者write(2)返回EAGAIN时才需要挂起，等待。但这并不是说每次read时都需要循环读，直到读到产生一个EAGAIN才认为此次事件处理完成，当read返回的读到的数据长度小于请求的数据长度时，就可以确定此时缓冲中已没有数据了，也就可以认为此事读事件已处理完成。Level Triggered 工作模式相反的，以LT方式调用epoll接口的时候，它就相当于一个速度比较快的poll(2)，并且无论后面的数据是否被使用，因此他们具有同样的职能。因为即使使用ET模式的epoll，在收到多个chunk的数据的时候仍然会产生多个事件。调用者可以设定EPOLLONESHOT标志，在 epoll_wait(2)收到事件后epoll会与事件关联的文件句柄从epoll描述符中禁止掉。因此当EPOLLONESHOT设定后，使用带有 EPOLL_CTL_MOD标志的epoll_ctl(2)处理文件句柄就成为调用者必须作的事情。然后详细解释ET, LT:LT(level triggered)是缺省的工作方式，并且同时支持block和no-block socket.在这种做法中，内核告诉你一个文件描述符是否就绪了，然后你可以对这个就绪的fd进行IO操作。如果你不作任何操作，内核还是会继续通知你的，所以，这种模式编程出错误可能性要小一点。传统的select/poll都是这种模型的代表．ET(edge-triggered)是高速工作方式，只支持no-block socket。在这种模式下，当描述符从未就绪变为就绪时，内核通过epoll告诉你。然后它会假设你知道文件描述符已经就绪，并且不会再为那个文件描述符发送更多的就绪通知，直到你做了某些操作导致那个文件描述符不再为就绪状态了(比如，你在发送，接收或者接收请求，或者发送接收的数据少于一定量时导致了一个EWOULDBLOCK 错误）。但是请注意，如果一直不对这个fd作IO操作(从而导致它再次变成未就绪)，内核不会发送更多的通知(only once),不过在TCP协议中，ET模式的加速效用仍需要更多的benchmark确认（这句话不理解）。在许多测试中我们会看到如果没有大量的idle -connection或者dead-connection，epoll的效率并不会比select/poll高很多，但是当我们遇到大量的idle- connection(例如WAN环境中存在大量的慢速连接)，就会发现epoll的效率大大高于select/poll。（未测试）另外，当使用epoll的ET模型来工作时，当产生了一个EPOLLIN事件后，读数据的时候需要考虑的是当recv返回的大小如果等于请求的大小，那么很有可能是缓冲区还有数据未读完，也意味着该次事件还没有处理完，所以还需要再次读取： 这里只是说明思路（参考《UNIX网络编程》） while(rs) {buflen = recv(activeevents[i].data.fd, buf, sizeof(buf), 0);if(buflen < 0){// 由于是非阻塞的模式,所以当errno为EAGAIN时,表示当前缓冲区已无数据可读// 在这里就当作是该次事件已处理处.if(errno == EAGAIN)break; else return; }else if(buflen == 0) { // 这里表示对端的socket已正常关闭. } if(buflen == sizeof(buf) rs = 1; // 需要再次读取 else rs = 0; }   还有，假如发送端流量大于接收端的流量(意思是epoll所在的程序读比转发的socket要快),由于是非阻塞的socket,那么send函数虽然返回,但实际缓冲区的数据并未真正发给接收端,这样不断的读和发，当缓冲区满后会产生EAGAIN错误(参考man send),同时,不理会这次请求发送的数据.所以,需要封装socket_send的函数用来处理这种情况,该函数会尽量将数据写完再返回，返回-1表示出错。在socket_send内部,当写缓冲已满(send返回-1,且errno为EAGAIN),那么会等待后再重试.这种方式并不很完美,在理论上可能会长时间的阻塞在socket_send内部,但暂没有更好的办法. ssize_t socket_send(int sockfd, const char* buffer, size_t buflen) { ssize_t tmp; size_t total = buflen; const char *p = buffer; while(1) { tmp = send(sockfd, p, total, 0); if(tmp < 0) { // 当send收到信号时,可以继续写,但这里返回-1. if(errno == EINTR) return -1; // 当socket是非阻塞时,如返回此错误,表示写缓冲队列已满, // 在这里做延时后再重试. if(errno == EAGAIN) { usleep(1000); continue; } return -1; } if((size_t)tmp == total) return buflen; total -= tmp; p += tmp; }  return tmp; }   二、epoll在LT和ET模式下的读写方式 在一个非阻塞的socket上调用read/write函数, 返回EAGAIN或者EWOULDBLOCK(注: EAGAIN就是EWOULDBLOCK) 从字面上看, 意思是:   * EAGAIN: 再试一次 * EWOULDBLOCK: 如果这是一个阻塞socket, 操作将被block * perror输出:  Resource temporarily unavailable   总结: 这个错误表示资源暂时不够, 可能read时, 读缓冲区没有数据, 或者, write时，写缓冲区满了 。 遇到这种情况, 如果是阻塞socket, read/write就要阻塞掉。 而如果是非阻塞socket, read/write立即返回-1, 同 时errno设置为EAGAIN. 所以, 对于阻塞socket, read/write返回-1代表网络出错了. 但对于非阻塞socket, read/write返回-1不一定网络真的出错了. 可能是Resource temporarily unavailable. 这时你应该再试, 直到Resource available.   综上, 对于non-blocking的socket,  正确的读写操作为: 读: 忽略掉errno = EAGAIN的错误, 下次继续读 写: 忽略掉errno = EAGAIN的错误, 下次继续写   对于select和epoll的LT模式, 这种读写方式是没有问题的. 但对于epoll的ET模式, 这种方式还有漏洞.   epoll的两种模式 LT 和 ET

• 介绍 epoll 函数的原理和使用方法

• 气泡排序（超级详细）--升序"，从小到大；另一种是 "降序"，从大到小。该主题可抽象为 "按升序对 n 个数字排序 "的一般形式。 排序是一种重要的基本算法。排序的方法有很多种，但在本题中我们将使用冒泡排序法。 冒泡法的基本思想 冒泡法的基本思想是，每次比较相邻的两个数字时，较小的那个会被移到前面。如果有 5 个数字9,8,5,2,0，第一次将前两个数字 8 和 9 互换。第二次将第二个和第三个数字（9 和 5）对调......这样一共对调 4 次，得到 8-5-2-0-9 的顺序，可以看到：最大的数字 9 一直在 "下沉"，成为最下面的一个数字，而小的数字 "上升" 最小的数字 "上升"。最小的数字 0 已经向上 "浮 "了一个位置。经过第一次比较（共 4 次比较和交换），得到了最大的数字 9。 然后进行第二趟比较，对剩下的前 4 个数字（8、5、2、0）进行新一轮比较，这样第二个最大的数字就 "沉到了底部"。同样，按照上述方法进行第二轮比较。经过 3 次比较和交换，我们得到了第二大数 8。 按照这个规律，我们可以推断出，比较 5 个数字需要 4 次旅行，才能将 5 个数字从小到大排列起来。在第一次旅行中，两个数字之间进行了 4 次比较，在第二次旅行中，进行了 3 次比较......在第四次旅行中，只进行了一次比较。 思路总结 总结：如果有 n 个数字，那么要进行 n-1 次比较。在第一次行程中进行 n-1 次比较，在第 i 次行程中进行 n-i 次比较。

• NeurIPS 2022 | 最强斗地主AI！网易互娱AI Lab提出基于完美信息蒸馏的方法-完美信息蒸馏(PTIE) 在斗地主游戏中，非完美信息的引入主要是由于三位玩家均不能看到别人的手牌，对于任意一位玩家而言，仅可知道其余两位玩家当前手牌的并集，而难于精准判断每位玩家当前手牌。完美信息蒸馏的思路是针对这种非完美问题，构建一个第三方角色，该角色可以看到三位玩家的手牌，该角色在不告知每位玩家完美信息的情况下通过信息蒸馏的方式引导玩家打出当前情况下合理的出牌。 以强化学习常用的 Actor-Critic 算法为例，PTIE 在 Actor-Critic 算法的应用中可以利用 Critic 的 Value 输出作为蒸馏手段来提升 Actor 的表现。具体而言即在训练中 Critic 的输入为完美信息(包含所有玩家的手牌信息)，Actor 的输入为非完美信息(仅包含自己手牌信息)，此种情况下 Critic 给予的 Value 值包含了完美信息，可以更好地帮助 Actor 学习到更好的策略。 从更新公式上来看，正常的 Actor-Critic 算法 Actor 更新的方式如下： 在 PTIE 模式下，对于每个非完美信息状态 h，我们可以在 Critic 中构建对应的完美信息状态 D(h)，并用 Critic 的输出来更新 Actor 的策略梯度，从而达到完美信息蒸馏的效果。 PTIE 框架的整体结构如下图所示： 无论是训练还是执行过程中智能体都不会直接使用完美信息，在训练中通过蒸馏将完美信息用于提升策略，从而帮助智能体达到一个更高的强度。 PTIE 的另一种蒸馏方式是将完美信息奖励引入到奖励值函数的训练中，PerfectDou 提出了基于阵营设计的完美信息奖励 node reward，以引导智能体学习到斗地主游戏中的合作策略，其定义如下： 如上所示，完美信息部分 代表 t 时刻地主手牌最少几步可以出完，在斗地主游戏中可以近似理解为是距游戏获胜的距离， 代表 t 时刻地主阵营和农民阵营距游戏获胜的距离之差， 为调节系数。通过此种奖励设计，在训练时既可以一定程度地引入各玩家的手牌信息(出完的步数需要知道具体手牌才能计算)，同时也鼓励农民以阵营的角度做出决策，提升农民的合作性。 特征构建： PerfectDou 针对牌类游戏的特点主要构建了两部分特征：牌局状态特征和动作特征。其中牌局状态特征主要包括当前玩家手牌牌型特征、当前玩家打出的卡牌牌型特征、玩家角色、玩家手牌数目等常用特征，动作特征主要用于刻画当前状态下玩家的所有可能出牌，包括了每种出牌动作的牌型特征、动作的卡牌数目、是否为最大动作等特征。 牌型特征为 12 * 15 的矩阵，如下图所示： 该矩阵前 4 行代表对应每种卡牌的张数，5-12 行代表该种卡牌的种类和对应位置。 网络结构和动作空间设计 针对斗地主游戏出牌组合数较多的问题，PerfectDou 基于 RLCard 的工作上对动作空间进行了简化，对占比最大的两个出牌牌型：飞机带翅膀和四带二进行了动作压缩，将整体动作空间由 27472 种缩减到 621 种。 PerfectDou 策略网络结构如下图所示： 策略网络结构同样分为两部分：状态特征部分和动作特征部分。 在状态特征部分，LSTM 网络用于提取玩家的历史行为特征，当前牌局状态特征和提取后的行为特征会再通过多层的 MLP 网络输出当前的状态信息 embedding。 在动作特征部分，每个可行动作同样会经过多层 MLP 网络进行编码，编码后的动作特征会与其对应的状态信息 embedding 经过一层 MLP 网络计算两者间的相似度，并经由 softmax 函数输出对应的动作概率。 实验结果

• 什么是可用性测试？有效性（Effectiveness）-- 用户完成特定任务和实现特定目标的正确性和完整性程度；效率（Efficiency）-- 用户完成任务的正确性和完整性程度与所用资源（如时间）之比；满意度（Satisfaction）-- 用户在使用产品时的主观满意度和接受程度。 2.如何获得可用性？ 可以参考以下原则：Gould、Boies 和 Lewis（1991 年）为以用户为中心的设计定义了 4 个重要原则： 早期以用户为中心：设计者应在设计过程的早期就努力了解用户的需求。 综合设计：设计的所有方面都应同步发展，而不是按顺序进行。使产品的内部设计始终与用户界面的需求保持一致。 早期和持续测试：当今唯一可行的软件测试方法是经验主义方法，即如果实际用户认为设计可行，该设计就是可行的。通过在整个开发过程中引入可用性测试，用户就有机会在产品推出之前对设计提出反馈意见。 迭代设计：大问题往往掩盖了小问题的存在。设计人员和开发人员应在整个测试过程中对设计进行迭代。 3...什么是可用性测试？ 可用性测试是根据可用性标准对图形用户界面进行的系统评估。 可用性测试是衡量用户与系统（网站、软件应用程序、移动技术或任何用户操作设备）交互时的体验质量。4.如何进行可用性测试？ l 实验室实验